2018年AI圈八大造假事件:罗生门此起彼伏,比娱乐圈精彩_风闻
量子位-量子位官方账号-2018-12-31 13:42
安妮 发自 凹非寺量子位 出品 | 公众号 QbitAI
回顾2018,太多AI应用一鸣惊人。
英伟达的新一代假脸生成器,高清人脸大图毫无破绽;Google的“打Call”机器人真假难辨,一句“嗯哼”全场笑翻;OpenAI的AI打DOTA2血虐人类,拼尽全力也难保周全。
AI是把双刃剑,在带来正面应用的同时,也走过曲折阴暗的道路。
量子位盘点了2018年八大知名AI造假事件,每个事件都是一场罗生门故事的重演。
起承转合,精彩程度不输娱乐圈。
网红机器人索菲亚被指为“骗局”
还记得那个语出惊人的索菲亚吗?
这个能和人类巧妙对答、具有丰富表情甚至扬言“我会毁灭人类”的网红机器人,自从混到沙特阿拉伯公民籍后,已经被全球科技爱好者熟知了。
在参加各档电视节目时,索菲亚主动掌握话题走向和不时显露的暗讽开始让NLP研究人员怀疑,当前机器人的语言水平,真的达到了这么先进的水平吗?
今年一月,在索菲亚录完Tech Insider的采访后,深度学习界“三巨头”之一的大牛Yann LeCun在推特公开指责:
索菲亚根本就是个骗局。LeCun直接指出,把索菲亚称作“远程操控AI”可能更合适一些。
牙尖齿利的索菲亚这次会怎样回应技术大牛的质疑?
被LeCun怒怼后,索菲亚背后的汉森机器人技术公司在参加《对话》节目时回应,目前所有能进行对话的人工智能都是人工编程的,索菲亚也不例外。智能的头脑由人控制且内容往往都是人编好的。
△ 参加《对话》节目的索菲亚 | 图片来自微博@机器人索菲亚
大家印象中的对答如流的机器人索菲亚,在问世近3年后终于承认,机器人的外壳只是一个“传声筒”。
Facebook隐私数据泄露左右美国大选
AI可能在美国在特朗普竞选中起到了重要作用。今年3月,Facebook迫于压力,“封杀”了两家关联公司。
被封杀的一是Strategic Communication Laboratories(SCL),主要为全球官方机构提供数据分析和战略决策。二是Cambridge Analytica(剑桥分析),作为特朗普的数据运营团队,他们在2016年成功助力特朗普上任。
在Facebook对外公布的封杀说明中,称SCL和剑桥分析公司通过关联FB登陆的第三方应用,窃取了27万Facebook用户的个人信息,并称这些信息被违规转手使用。
举报者称,剑桥公司公司用百万美元的经费用来收集Facebook上的个人资料信息,利用这些数据搭建起一个可以剖析美国选民的数据的AI模型,并且能够针对性地推送千人千面的个性化政治广告。
言外之意已然很明显:特朗普的数据运营团队,将此用到了2016年的大选中。
4月,当小扎只身坐在44名参议员中间参加美国国会听证会现场时,他表示Facebook没有因为剑桥分析事件开除任何员工,所有由自己承担。
相关报道:
AI助特朗普当选?FB史上最大数据滥用曝光,牵出ACL终身奖得主
“操纵大选”的剑桥分析被封禁,核心员工却早已洗白上岸重操旧业
扎克伯格5小时听证鏖战:五大焦点,四处尴尬和一次耿直CEO笑翻全场
业余围棋赛选手被指用AI作弊
据新浪体育报道,在今年4月2018丽水清韵杯全国业余围棋公开赛上,一名刘姓棋手出人意料的战胜了曾获世界业余围棋锦标赛冠军的胡煜清八段,被怀疑使用围棋AI LeelaZero作弊,这可能是线下比赛中首次出现AI作弊。
此前,在伟星杯全国业余围棋公开赛中,作为围棋新人的刘某一鸣惊人,8胜3负,凭借直胜对手而排名第10。
胡煜清事后的一条朋友圈透露,输掉比赛、拿到棋谱后棋界友人用围棋AI LeelaZero测试,发现刘某的招法与AI几乎一模一样。
据参赛选手透露,比赛过程中,刘某衬衫胸口处的口袋里放着手机,手机摄像头刚好面对棋盘。在某场对局中,刘某一直下的又好又快,随后手机被裁判要求收起来,此后下子又慢又差,仿佛从职业选手变成了业余四段选手。
当天晚上,中国围棋协会发布通知,禁止参赛棋手在比赛中将手机放置在衬衣口袋外、桌面等明处,违者第一次口头警告,第二次直接判负。
随后,刘某选择弃赛。在随后接受新京报采访时,刘某回应称没有作弊,手机放上衣口袋因为裤子口袋装了钱和充电宝,棋局与AI重合度高是因为自己从1月份开始研究围棋AI。
相关报道:AI再乱围棋圈:“食言之战”柯洁落败;首例素人作弊引风波
华人明星教授因学术造假被告
今年7月,南加州大学的明星教授黎颢(Hao Li)和他的公司Pinscreen因为一起AI技术造假案受到关注。缘起于自家公司的工程副总裁Iman Sadeghi的愤怒起诉:
Iman表示,黎颢及其公司用手动制作的动画假冒AI生成效果,将造假论文提交至Siggraph大会欺骗群众,还用此虚假宣传欺骗投资方软银诈取融资。
Pinscreen官方公布的效果显示,Pinscreen的头像自动生成术可以根据一张照片,用AI技术生成对应的卡通头像,且效果甚好。但可能事实并非如此。
诉状称,在提交给计算机图形学会议SIGGRAPH Asia 2017和SIGGRAPH RTL 2017的论文中,在SIGGRAPH RTL进行现场演示时,以及在给投资人做技术演示的时候,Pinscreen号称自动生成的3D形象,其实包含了不少人工制作出来的部分。
2017年3月底,距4月4日的RTL投稿Deadline只剩几天,黎颢在团队Skype群里说:没时间了,就算造假都没时间了……头发重建我们可能除了作弊之外别无选择了。
接下来,黎颢雇了个德国模型师Leszek,来搞定3D头像的头发,每个头发要3个小时才能搞定,收100欧元。
Iman 和黎颢因此事出现意见分歧,随后Iman把黎颢告上法庭,而Pinscreen随后发表声明否认造假,并且已经进入司法程序。
相关报道学术造假,殴打副总,欺骗VC……“杀马特”华人明星教授被告上法庭
国产红芯浏览器被指造假
今年8月,又一个打着“自主创新”、“打破美国垄断”、“安全”等旗号的“国产”科技产品红芯浏览器,被推上风口浪尖。
官网标明,这是一款“中国唯一获得国产麒麟操作系统和飞腾芯片兼容性认证的浏览器”,而且还结合了人工智能和大数据分析技术。
红芯创始人兼CEO陈本峰说:“我们要在这个领域上突破,打破美国垄断,打造中国首个自主创新的浏览器内核。”
不过,这个之前名不见经传、很多人第一次听说的浏览器,马上就被各路“揭老底战斗队”的高手们盯上了。
微博用户 @Touko 做了一个并不复杂的证明:把红芯浏览器的安装文件多次解压后,大家熟悉的Google Chrome浏览器文件出现了~
@Touko 还制作了一份动图用以说明。
网友@泷涯 给出结论是:红芯浏览器整体就是一个“换肤版”的Chrome。内核版本是49。不管是功能还是服务,其实都还不如那一批国产浏览器。
此后,红芯CEO陈本峰回应了相关质疑。陈本峰确认,红芯浏览器确实是基于谷歌 Chrome 浏览器内核而开发,但他强调,红芯在内核层面有自主创新,以适用于中国企业用户的办公上网需求。
相关报道:国产浏览器被指造假背后:一位号称创造404页面的80后莆田程序员
讯飞AI同传被指用人类翻译冒充AI
今年9月,一位王姓同传译员,知乎名字叫做Bell Wang在上海国际会议中心,为2018创新与新兴产业发展国际会议做现场同传。
这个会场的大屏幕被分为了三个区域,中间是分会场的名字和介绍,两边则是演讲嘉宾的PPT,PPT下方有字幕,左侧是中文,右侧是英文,两侧的字幕上方都带着讯飞听见的logo,让人觉得这些中英文都是讯飞的作品。
当日本科学院院士福田敏男(Toshio Fukuda)教授上台演讲时,讯飞听见了,但是讯飞听不太懂。
这讯飞听见是怎么在听不懂英文原文的情况下,如此流畅的翻译出日本教授的英文演讲呢?难道这个AI会读取意念吗?
当然不,所有的中文翻译,都是Bell同学女搭档现场翻译的。这里压根没有人工智能翻译,都是人类智能翻译。
Bell的女搭档发现,这个会议在知领直播的页面上,写明了科大讯飞的“智能翻译”,而且知领直播中的同传,是把他们二人的同传翻译,换了一个机器的声音读了出来!
“智能翻译”压根不存在,机器识别人类说出的翻译,再用机器声音说出来,这怕不就是科大讯飞董事长刘庆峰一直在说的“人机耦合”吧?
事后,讯飞对此作出回应否认造假,表示这是误会:
一位同声传译人员因为在工作中把“讯飞听见”的转写功能误会成“机器同传”,从而引发了这次的讨论。
相关报道:讯飞AI同传被指造假:同传译员亲自揭发,讯飞用人类翻译冒充AI
交友App用AI冒充真人骗钱上亿
你的女神,可能只是机器人。365张假面,你想要的AI都能搞定。
今年10月,在一个名叫“恋人网”的聊天交友APP中, 轻轻一点就能和社群推荐的年轻男女对话互动。
据央视财经报道,23岁的王小鹏(化名)下载恋人网后,登录后不断有“我很寂寞”“我刚失恋需要人安慰”等挑逗性的语音。
聊着聊着,有些心动的发现想要继续聊天就需要大量花钱了,购买“畅聊宝”服务才能继续和女生聊天,1999元的“红娘一对一”服务据说能预约同城见面,爱心、玫瑰等道具可以提升女生的“好感值”,此时,女生不断对王小鹏索要礼物。
被骗数千元后,王小鹏才发现事情不对劲。付费约好同城见面后,对方一下子杳无音信了。
其实和王小鹏聊天的,都是聊天机器人程序,面基更无从谈起了,被逼无奈的小鹏最后报了警。
据央视财经报道,这家名叫恋人网的应用,坐拥75万名付费会员,每月人民币流水数百万元。
你的网恋女友,真的是人类吗?
俄罗斯“最先进机器人”里是真人
这场乌龙可是闹大了。
就在本月初,在俄罗斯“俄罗斯24小时”新闻节目中,预告时报道的“最现代化的机器人”鲍里斯着实让观众吃了一惊。
节目中,鲍里斯和主持人谈笑风生,连关于机器人和人类一起工作的话题都回答得很棒。随后,现场的小高潮来了,鲍里斯和主持人一起舞蹈,看起来人类主持人的动作更僵硬一些,而鲍里斯的舞蹈更人性化。
节目播出后,不少眼尖的战斗民族人民还是发现了不对劲的地方:为什么没有传感器只有LED等闪烁?这么厉害的机器人此前为什么没有任何研究的进展报道?
当网友再次回看节目时,就发现了一个不得了的惊天秘密:鲍里斯的脖子处似乎露出了真人皮肤!这个宣称是“最先进机器人”的机器人难道是个人?
俄罗斯媒体MBKh Media随后发表的一张照片印证了这个说法:
再之后,原报道媒体俄罗斯24小时,将YouTube中这期报道的节目下架了。
商用机器人外壳品牌Alyosha的骗局,也不了了之了。
回顾2018年的几大造假事件,有意造假也好,无意为止也罢,无论如何,技术本身,实属无罪。
2019年,愿AI应用满载正能量。
— 完 —