极品老太之腰椎是真正的朋友 @[email protected]

Aeon这篇文章太妙太好玩了！我一时都不知道怎么总结它才好。它以对话式AI是否真的有感情(sentience)的问题开篇，先回顾了研究动物是否具有sentience上研究者采用的方法，再话锋一转分析了类似的behaviour-based方法为什么对AI是无效的——这部分写得太好了，如果说昨天我嘲微软给chatGPT做心理学测试还是从测试题设置本身的bias来聊的，这篇文章直接是釜底抽薪把任何linguisitc式的测试都给掀了(包括著名的图灵测试)。我简单粗暴地试图总结一下：因为AI的海量训练数据里包括了人类在不同场合下因为sentience而作出的不同反应(e.g. 话语、表情)，因此AI完全可以提炼出pattern，不需要同样的机理就gaming出类似的输出。当人类谈论图灵测试中机器应该/不应该作出怎样回答的语料进入了AI的训练集，图灵测试就不再能作为测试AI有没有sentience的方法，conscience同理(the gaming problem)。然后文章又做了一个奇妙的turn，聊起如果不采取behaviour-based的方法而使用更structural的方法会遇到的麻烦：什么是sentience的核心？目前我们的参考对象是人类，但人类sentience的features里有哪些是人类specific、又有哪些是可以跨越物种的essential的？如何区分它们呢？接着自然流畅地转回了地外生命和地球动物sentience的研究上，分析了当研究样本单一的N=1 problem以及研究互相独立的进化分支的重要性(e.g. 猴子猩猩乃至老鼠都跟人类太近了，得研究章鱼海星乃至蠕虫之类跟人的亲缘关系甚远的物种)。而且文章指出了我们现在认为海星什么的没有sentience更多是因为至今没有人在这方面系统地研究过海星(此处有考古学家兴奋跳出来击掌：non-exist of evidence is not the evidence of non-exist)。最后又带回了AI领域，解释了为什么从动物入手研究sentience的essential features比直接在AI上搞有效(有的事你就没法在AI上干。比如章鱼能做梦、磕了迷幻药能嗨，你能这么搞AI吗？笑得我打滚)、在动物身上找到的结构性features为什么可以放心地使用(动物没有gaming的动机哈哈哈)。整篇文章既有新奇的角度，又有必要的深度，行文还非常轻松易读，一点不艰涩。

(以及celebrate一下这么奇思妙想这么棒的文章的第一作者是女性 )

To understand AI sentience, first understand it in animals
https://aeon.co/essays/to-understand-ai-sentience-first-understand-it-in-animals

#并非如此 #ArtificialUnintelligence