难以置信,这(zhè)竟是Google如今的做事方式(shì)。
或(huò)许你(nǐ)还(hái)没(méi)有忘记,有(yǒu)个叫Maven的(de)美国国防部AI武器项目。
而且就是因为Google参与该项目,内(nèi)部抗议一(yī)波接一(yī)波,离职进(jìn)谏者不计(jì)其数,近(jìn)4000员(yuán)工联名(míng)声讨。
后来,内外压力之(zhī)下,2018年6月,Google官(guān)方宣(xuān)布停止参与AI武器研发,并发(fā)布AI原则作为指导。一时化(huà)舆论危机为(wéi)道德风骨。
然而万(wàn)万没(méi)想到,不作恶巨(jù)头也有明修(xiū)栈道暗度陈仓那一套。
一边(biān)是高调建牌坊,另(lìng)一边则(zé)背(bèi)地(dì)里雇佣众包(bāo)零工人(rén)员继续(xù)进行AI武器(qì)训练。
这,就是Google刚刚被曝光的新春之雷。
众包平(píng)台训练武器AI
事(shì)情从一家名为Figure Eight(图八)的众包公司说起(qǐ)。
图八公司,做的就是数据标注(zhù)一(yī)类的工作。他们接(jiē)项目,然后(hòu)安排(pái)给平台(tái)上的(de)“工人”,并以时薪1美元(7元)支付报(bào)酬。
工人们任务也不难,看起来都是一些简(jiǎn)短且无须思(sī)考的任务,比如识别区分所给图像中的人(rén)物,是否符(fú)合要求(qiú)——符合(hé)就(jiù)框出来,不(bú)符合就(jiù)下一张(zhāng)。
但根据(jù)美媒The Intercept最新截获(huò)的(de)邮件显示,其中就有一个专门为Google和国(guó)防部(bù)完成的项(xiàng)目(mù)。
而且就(jiù)是那(nà)个“声名(míng)在外”的Maven项(xiàng)目。
所谓Maven项目,简而(ér)言之就是无(wú)人机武器。但跟(gēn)战(zhàn)狼中所用的人(rén)控无人机(jī)不同,这里(lǐ)的无人机有AI加(jiā)持,拥有视觉(jiào)能力,可以区分“敌我”,最后甚至能自主决定攻击。
但你也知道,AI实现区分“敌我”之前,需要人类(lèi)通过大量(liàng)数据和(hé)案例教会AI谁敌谁友、分清楚(chǔ)哪些是树木哪些是人——有(yǒu)多少人工,就有多(duō)少智能(néng)。
这(zhè)个图(tú)八(bā)公司,接的就是这个生意。
所以按理来说,Google宣(xuān)布停止参与Maven项目后,合作方图(tú)八的任务应(yīng)该也就一并中止(zhǐ)了(le)。
但(dàn)The Intercept截获的邮件显(xiǎn)示(shì),图八的(de)数(shù)字(zì)工人(rén)们还(hái)在(zài)不断交付工作,只是他们(men)并(bìng)不(bú)知道究竟在完成什么项(xiàng)目、又是为谁工作而已。
图八方(fāng)面也确认,Maven项目的(de)任(rèn)务还在继续(xù)。
所以换而言之,在Google宣布中止Maven项目大(dà)半年后,背地里还(hái)有模型训练的工(gōng)作马不停蹄。
不知(zhī)道那些以离职抗(kàng)议的(de)Google员工,知(zhī)道真(zhēn)相后作何(hé)感(gǎn)想?
但Google官方(fāng)已经对此表示未置可(kě)否。
The Intercept就此向Google求证(zhèng)时,发言(yán)人把(bǎ)问题(tí)转交给(gěi)了图(tú)八公司——大概就是想表明这事儿得问图八(bā)。
不过就外泄的邮件内容来看,Google从中标Maven项目后不久,就已(yǐ)经跟(gēn)图八公司展开了合作。
现在想要切割,为时晚(wǎn)矣(yǐ)。
评(píng)论汹涌
事情被爆料后,网友(yǒu)搬板凳看热闹的(de)阵仗好不热闹(nào)。
无论是外媒(méi)、推(tuī)特、论坛还是国内的微博,网(wǎng)友都开启了热(rè)议模式(shì),针对此(cǐ)事的观点评论(lùn)几乎(hū)可以一分为三。
有吃瓜群众对谷歌“表里(lǐ)不一(yī)”的行为表示大跌眼镜,把“不作恶”写进自己(jǐ)的准则却又一再打破,不(bú)少网友(yǒu)表示“让(ràng)人失望”。
有(yǒu)网(wǎng)友感慨人工智能技术(shù)在(zài)成熟(shú)前(qián)竟然(rán)需要(yào)这么大的(de)标注工作,先(xiān)有人(rén)工后才有智能。
外(wài)媒VentureBeat的记(jì)者John Koetsier认为,整(zhěng)件事太讽(fěng)刺(cì)了,人(rén)们为(wéi)了训练AI最(zuì)终能替代(dài)自己干活(huó),竟然在做一(yī)些不需要动(dòng)脑子(zǐ)的(de)微(wēi)小工作。
也有微博网友提供了一个点子,认为(wéi)与(yǔ)其利(lì)用(yòng)零工经济(jì)聘请兼职来标注,不如(rú)直(zhí)接放到游戏里让(ràng)玩家对(duì)其训练。
最多的讨论,是关(guān)于谷歌这次(cì)处理问(wèn)题的态度以及影响,不少国外网(wǎng)友(yǒu)气愤的同时,又在“瑟瑟发抖(dǒu)”。
社会学家(jiā)Casilli推特表示,这是一(yī)个有关(guān)发言(yán)权的问(wèn)题。无论是兼职也好、零工也罢还是社交平台(tái)的用户,都有权利认识和监督其生产活动。
不少国内微博网友也(yě)认同此事,表示(shì)心疼(téng)这些(xiē)连(lián)自己在做(zuò)什么都不(bú)知(zhī)道的公认。
网友TeameZazzu开(kāi)始担忧谷歌的(de)一系列(liè)AI军事(shì)项目,他认为正如美国国(guó)家(jiā)安全局(jú)此前国内大规模监听丑(chǒu)闻那样,反恐(kǒng)工具很快就会转移到国内警察部门。在(zài)WAMI(广域运动图(tú)像)案(àn)例中,被执法机构使用显(xiǎn)然是(shì)违(wéi)反美国宪法的,是(shì)对自由、隐私和民主(zhǔ)的生存威胁。
王子&庶(shù)民
当然,事件曝光后(hòu)的评论中(zhōng),另一个问(wèn)题也被凸显(xiǎn)。
在图八的整个(gè)工作中(zhōng),由于雇主和项目可以选择(zé)匿名(míng),而且工作任务被(bèi)切分(fèn)得极其细(xì)致。
所以工人们根本(běn)不知道自己(jǐ)在(zài)为谁工作,也不知道自己(jǐ)正在做什(shí)么。
那么争议来了:
在AI武器这样的“是非题”中,Google的员工有选择的权利,但图(tú)八的工人(rén)们,甚(shèn)至连知情(qíng)权都没有(yǒu)。
未来这些AI武器大杀四方甚至被非人道使用时,他们也不知道自己曾(céng)帮助过这些武器的实现。
所(suǒ)以在涉及(jí)道德(dé)争(zhēng)议任务时,是否也该让众包工人跟Google员工享有同等的知情权(quán)?
而且就在最近(jìn),参与Maven项目抗议的Google员工,还获得了“2018年度军(jun1)控(kòng)人(rén)员”的全(quán)球评眩(xuàn)
但图(tú)八公司(sī)的众包工人呢?如(rú)果不是今(jīn)日事(shì)件曝光,可能(néng)他们(men)永远(yuǎn)不知道,自己一直在参与Maven项目。
迫于生(shēng)计,他们可能也没有选择,但是否(fǒu)就此变相剥夺他(tā)们(men)的(de)选择权?
另外,明修牌坊,暗地里继续训练军事AI,这真的是Google的选择吗?