您当前的位置:网站首页 » 竞争情报

栏目导航

站内搜索









AI也会被催眠吗?

这个时代,距离迎来与人类“一样聪明”机器智能方案,已提上日程。换句话说,我们终于在无数失败的探索与破灭的期待之后,瞥见了一缕科幻小说般的AI发展曙光。

终有一天,也许是在几十年之内,我们可能会使用人工神经网络制造机器、以具备现实意义的方式模拟人类大脑。但到那个时候,具有如此威能的造物要如何保证安全?如何确保AI不会像人类这样极易被外力所诱导与操控?

机器人,也会被催眠吗?

AI领域的至高圣杯,无疑是实现与人类相信的智能水平。很多不熟悉这一专业领域的朋友往往被炒作性质的报道所误导,以为现代AI已经具备极高的智能。

但事实上,世界上还没有任何一台机器人能够直接走进厨房,在无需外力帮助的前提下泡出一杯香浓的咖啡。

为什么这么简单的工作也能难倒AI?因为它还不具备真正的思考能力。AI并没有“思维的舞台”,也创造不出基于记忆及激励因素的新颖思想。相反,它只是根据被告知的方式,将输入内容转换为输出结果。

但也有一些AI研究人员认为,在深度学习之外,还有其他能够实现更趋“自然”的AI形式的途径。

通往人工通用智能(AGI,普遍认为AGI就是具备人类智能水平的AI)的常规道路之一,就是使用人工神经网络模拟人脑的运作方式。但既然是要模拟人脑,那么机器智能是否也会被催眠师所俘获?

有杀手机器人,就有杀手催眠机器人

有些人害怕“终结者”这样毫无人性的机器会突然闯进家门。但更恐怖的,也许反而是机器身上较为“人性”的一面。

作为极富争议的领域之一,催眠术似乎拥有着神奇的力量。虽然不少学者都在发表论文质疑催眠术的实际效果,但根据最近的研究结论,我们确实可以通过某个特定的字眼转变人类的意识状态。当然,这种事并不是百试百灵,其中多少有些“技巧”的成分在。

但如果把催眠术的这种特定效用推广开来,我们可能真的需要担心,未来人类打造的先进机器人是不是也会受到类似的影响。

一般的玩笑式催眠当然无伤大雅,但如果恐怖分子对交通信号灯的指控系统进行催眠,甚至借此入侵数百万辆自动驾驶汽车,引发的后果将不堪设想。

这么说,是不是有点危言耸听?

并不全是。就目前来看,机器学习中的偏差/偏见已经成为一大核心难题。在向机器提供大量人工造成或标记的数据时,其中不可避免要存在某些偏差/偏见因素。正因为如此,GPT-3对穆斯林建立起刻板印象,麻省理工也在使用Reddit数据进行训练后得到了一个“精神病患者”性质的AI模型。

事实上,AI系统采取的学习与思考方式越是趋近于人类,就越是可能像人类的头脑那样受到外部诱导的影响。

这种威胁真实存在。也许有一天,黑客们会使用对传统计算机毫无影响的批量信号冲击AI系统,借此操纵其思维方式。

能够理解自然语音的AI系统甚至可能受到音频操控,具备计算机视觉功能的AI系统则可能被精心设计的画面所蒙蔽。从理论出发,具备人类智能的AI应该也会像我们一样在催眠之下迷失自我。