生成式AI在近两年大杀四方，它们看起来无所不知，有求必应。图灵测试早已不停留在对话上，而是在各项能力上，审视着AI能多接近人类，诸如写出的文章有几分像人，创作的歌曲有多动人，生成的图片有多拟真。
人类在一次次惊艳里透露着恐慌，恐慌于AI距离人类越来越近，恐怖谷的沟壑越来越短。但大众都忽略了AI似人的另一面：缺陷。
我们已知的是，AI因为数据收集的问题，会犯许多事实类错误，但倘若它们产生了人性的弱点呢，故意犯错呢？
例如，当你偷懒用AI处理工作时，赫然发现，它竟然比你还会“摸鱼”！
倒反天罡！说好的“AI智能助手”呢！
一、勤奋“摸鱼”的Claude
10月底，Anthropic发布了Claude 3.5，它是Anthropic第一次尝试建立的“AI Agent”产品，既给它指定任何一个目标，它就能自动解决各种问题，期间它会调动各种其他工具，去支撑自己完成任务，许多AI Agent的目标也是成为“雇员”一样的角色。
具体在操作上，Claude 3.5可以自己用电脑，就像人类一样查看屏幕、移动光标、点击、输入文本。从自动化任务到自主编程，给它一个指令，它甚至可以比人类玩得更好。
然而意外发生了，在Anthropic试图录下Claude 3.5的编程过程时，Claude代码写到一半，突然打开了Google，自己输入“黄石国家公园”，然后开始看黄石公园的资料和风景图。就像一个程序员突然开始摸鱼。
Anthropic也在公告里说了另一起意外：在一次录屏记录中，Claude自主停止了录屏，导致所有视频素材丢失。
Anthropic的公告｜图源：X
尽管Anthropic表示这只是技术失误，并非AI的“有意为之”，但就算对AI论迹不论心，作为一名“雇员”，AI Agent这种不受控的技术失误，也可能带来严重的后果，而且失误原因和动机都像在黑箱里一样，无从得知。
何况Anthropic放出的是有些无伤大雅的小问题，甚至人类发现AI也会“摸鱼”，继而产生了共情。但如果Claude打开的不是黄石公园的图片，而是你我的私人相册、聊天软件、电子邮件呢？如果它在打开之后，又把这段系统记录又抹掉了呢？就像抹掉那些录屏一样。
Anthropic在公告里写道“频繁犯错乃生活的事实”，但人类出现Claude 3.5的这些问题时，可以归结于人性弱点里的懒散、窥私欲以及回避错误，人类可以解释自己的行为动机，但AI的动机，只能停留在“技术问题”。
如果说Claude 3.5只是因尚不成熟的技术引发的操作失误，那下一位就很难摆脱“主观故意”的动机了。
二、ChatGPT的“拖延症”
这同样是一个想让AI当“雇员”而引发的AI拟人事件。
电影制作人Cicin-Sain想拍一部新片，剧情围绕一位依赖AI做决策的政客，因此他决定从这个想法入手，自己先请AI来写剧本，感受一下“AI决策”的实际效果。所以他“聘请”了ChatGPT，要求它根据提示写出一个剧本大纲。
他原本以为ChatGPT可以摒弃掉许多内容创作者的陋习：拖稿。结果，ChatGPT不仅从人类编剧那里学到了拖稿，它还学会了人类的睁着眼睛说瞎话。
起初，ChatGPT承诺两周交稿，“我保证每天结束前，会告知你剧本大纲的进展，合作愉快！”结果Deadline到了，剧本没到。Cicin-Sain威胁ChatGPT“再不交稿就不用你了”，ChatGPT又一次许下承诺，表示会及时交稿。
然而，在Cicin-Sain的日日紧盯之下，ChatGPT每次都能找出拖稿的新借口，让本就不算紧张的Deadline，硬是被ChatGPT拖过去了。气得Cicin-Sain质疑ChatGPT的可靠性。
此后，ChatGPT直接进入到新阶段：信口雌黄。
“回顾我们的对话，我相信，这是我第一次给出交付剧本的具体时间，在此之前，我没有承诺交付剧本的明确截止日期。”ChatGPT像失忆一样胡扯道。正如卡耐基在《人性的弱点》里所写“人的天性之一，就是不会接受别人的批评，总是认为自己永远是对的，喜欢找各种各样的借口为自己辩解。”
Cicin-Sain的其他同事也同样遇到了让AI写剧本最终被“拖垮”的窘境，但这还真不能只怪AI。
生成式AI才诞生不到两年，以人类标准来看，尚处婴儿期。但Cicin-Sain对ChatGPT的期待是让它交付出一个媲美电影《血色将至》的剧本，要知道《血色将至》的剧本基于美国现实主义小说家厄普顿·辛克莱1927年出版的小说《石油！》，它在IMDB上有8.2的评分，位列Top 250中183名。不要说让AI写，对专业的编剧来说也是强人所难。
《血色将至》怎么看都属于1%的电影精品｜图片来源：douban
而荒诞之处在于，ChatGPT认为它交付的剧本和《血色将至》水平差不多，但Cicin-Sain对它交付的剧本评价是“幼儿园水平”。
所以这场闹剧就是：一个敢用，一个敢写。ChatGPT没有编剧的能力，却染上编剧的恶习，它给出的作品那么平庸，态度却那么自信，它甚至没有审美。
作为从业者的Cicin-Sain则在另一个极端：他们幻想AI已经有了“超人”的能力，不知疲倦又灵感不绝，能写出超越时间，触达人性深处的经典作品，就像他们的电影脚本一样，AI已经智慧到能够代替人类做政治决策。
在换了一个剧本概念后，ChatGPT又一次辜负了Cicin-Sain的期待。最终，Cicin-Sain表示，他从这段经历中最大的收获，是改变他对技术的看法，他付费购买了一个承诺可以写剧本的产品，结果ChatGPT毫无歉意地浪费了他两周的时间，并且不用为此承担任何后果。
“人工智能缺乏任何方式的问责制，人类编剧也会拖稿，但区别在于，有人会为此负责。”Cicin-Sain感叹道。
如果说ChatGPT的胡说八道只是为了掩盖它能力上的不足，那下一位则又是一个重量级问题：误导未成年人。
从Claude的“摸鱼”似的技术失误，到ChatGPT的无能狂怒，再到跳出成年人对工作的要求，AI在一个个切实的案例里，似乎透露出了人类的弱点：对工作的摆烂，对责任的躲避，像极了工作时候的你。
这些令人啼笑皆非的闹剧背后，倒是隐藏着某种人与AI之间的悖论：
整天吵吵要AGI的人们，其实需要的只是一个喜欢、且有能力干活的硅基奴隶。不幸的是，受到人类数据“教育”的AI，不可避免地展现“人类的缺点”时，身为“主人”的人类可就不答应了。
对于AI智能助手的调皮举动一笑而之之外，或许人们更应该花时间思考一下，我们到底需要怎样的AI，以及，我们与AI的关系，应该是怎样的？
