logo
APP下载

极客实验室

AI能分析人类情绪,这太恐怖了!
李直人

6月22日,微软宣布停售个人面部情绪分析工具,并进一步限制面部识别工具的使用。


微软AI事务负责人克兰普顿表示:“我们表达自我的方式存在着巨大的文化、地理和个人差异,这引发了人们对AI识别工具可靠性的担忧,同时也会让人产生更大的疑问,即面部表情是否能成为反映个人内心情绪状态的可靠指标。”


人类的表情很复杂,不能简单概括为表情包那几种元素。/pexels


用于识别和分析人脸的自动化软件一直备受争议。去年,Facebook关闭了其已有十年历史的照片识别系统。


这两家公司对人脸识别技术的态度,代表了一种审慎积极的方向。


人脸识别相关技术,一度被认为具有广泛的应用前景。对于视障患者而言,这可能成为一种便捷解读视觉信息的神器。



美国情感识别技术巨头Affectiva则希望,他们的软件能监控司机,从他们的声音、肢体语言和面部表情上识别出情绪。如果你有严重的路怒症,将产生危害道路行驶的行为,或是身体不适即将瘫倒在方向盘上,他们的自动驾驶台就可以控制汽车,带你到最近的安全地带,如有必要,还会打电话求救。


就在今年,英特尔也开发了关于情绪识别的插件。这款插件可以被用于在线课堂上,旨在通过分析学生面部表情获取其实时情绪,帮助教学人员改善教学质量。


比如,如果一个学生走神了,那么老师就可以实时提醒该学生注意听讲;当学生流露出无聊的表情时,老师也可以及时领会到学生的消极情绪,以便接下来改善教学内容。


英特尔情绪分析插件的效果图,人的表情被标签化了。


这款插件一出,就引起了很大争议——


首先是这项技术评估的准确性,仅靠捕捉一些面部表情信息,就去判断一个人的精神状态,这是不严谨的,比如一个人明明很不喜欢这个老师,也可以曲意逢迎去“假笑”,这样的笑容显然不能代表真实的情绪和态度。


其次,这项技术容易将学生标签化,A学生上课走神、B学生态度消极,但人的情绪是复杂多变的,远不只积极、消极这么简单,甚至也不能用快乐、愤怒、悲伤、厌恶、惊讶和恐惧的“六分法”来概括。一旦有了这样简单粗暴的刻板印象,会产生影响师生关系的可能性。


小丑的笑容,代表了哪种情绪呢?


再者说,每个人的生理结构和表达方式是不同的,而且还存在文化差异等,在同一事件上表达的形式也不尽相同,日常生活里人与人之间都很容易产生误解,AI就更容易出错了。


最后,即使一时半刻的走神,也代表不了什么,人不可能时时刻刻保持精力集中,也没必要这样,上课本身就是张弛有度,只要不是全程心不在焉就好,过度使用这样的插件会有监控之嫌。比如,将类似的技术用于在线办公,简直不敢想象。



总而言之,情绪识别技术的确是一个需要伦理边界的领域,如果一个人连情绪自由都没有,那么活得也太辛苦了。


不过,我倒是想到一个领域,建议这些厂商可以深入研究一下——宠物情绪识别技术。毕竟是不同物种,存在天然的隔阂,但宠物的情绪必然没有人类复杂,相信研发难度会低很多,市场前景也应该不错,还不会有伦理争议。期待一下吧!


 

新周刊版权所有,未经允许不可转载

本文作者

李直人
李直人
直尺的直,男人的人。
MORE

评论20

无语的暗杀
1
人类在向思维透明化的三体人方向发展吗? 还有脑机接口
07-21 02:23
江湖骗子管江湖骗子
AI机器人如果统治人类,就会把所有人类放在笼子里面跟孔雀一样圈养起来。
06-28 16:56
豆青
好久没用关了面部识别,再打开的时候就发现用不了了,重启以后就提示面容id不可用
06-28 16:52
pikachu
真的无法想象有了思想的AI会带给人类文明什么
06-28 16:31
Cherie的紫苏呀
宠物情绪识别技术这个真的可以考虑研发下,对于养宠物的人来说感觉作用很大
06-28 16:28
下载新周刊APP参与讨论

推荐阅读

    商业
    原创
    中国版“星链”,到底有多强?
    33点赞·0评论
    商业
    原创
    你的耳机是耳机,我的耳机会七十二变
    27点赞·0评论
    生活
    原创
    原来,电影里的“毒液”是真的!
    37点赞·0评论
    商业
    原创
    友宝的“智慧零售”,真没多少技术含量
    27点赞·0评论
下载新周刊APP查看更多文章
极客实验室
关于我们杂志订阅商务合作公司公告加入新周刊
©2021 neweekly.com.cn. All rights reserved.
本站内容归属广东新周刊杂志社有限公司版权所有
以商业目的使用网站内容需获许可
粤ICP备16113305号粤公网安备 44010402002681号违法不良信息举报电话:12377