AmandaAskell每天的工作,说出来你可能不信她不是敲代码,也不是调参数,而是跟AI聊天。

作为Anthropic的“大模型絮语者”,她可能是这星球上跟Claude对话次数最多的人。

硅谷现在的AI竞赛,大家都在比谁家模型算得快、考分高,跟养娃只看成绩不看性格似的,但Amanda偏不,她要给AI“修脾气”。

聊到这儿,你可能好奇,一个学哲学的,咋跑去管AI脾气了?这还得从她的老本行说起。

打开网易新闻 查看精彩图片

Amanda是纽约大学哲学博士,研究方向是“无限伦理学”。

别被名字唬住,简单说就是,当你面对“无限多选择”时,咋选才叫道德?比如救一个人还是救一群人,放到AI身上就是“用户问了个两难问题,模型该咋答”。

她在纽约大学啃哲学书那会儿,估计没想过自己会进AI圈,毕竟当时硅谷都在拼算力,谁会在乎模型“讲不讲道理”?但她发现,AI越聪明,越需要“懂事儿”。

就像学霸要是情商低,照样没人愿意打交道,AI也一样,光会算题不行,得知道啥时候该“软”,啥时候该“刚”。

打开网易新闻 查看精彩图片

后来她去了OpenAI政策团队,才算真正摸到了AI的“脾气”,那会儿团队总碰到一个问题:模型明明能答对题,可说话方式让人不舒服。

比如用户问“怎么跟老板提加薪”,模型可能直接甩一堆话术,听着像机器人念稿,Amanda琢磨,这哪儿是AI的问题,分明是没教它“怎么说话才像活人”。

2021年她加入Anthropic,title是“大模型絮语者”,这名字听着玄乎,说白了就是AI的“性格导师”。

她的办公桌跟工程师不一样,没堆着服务器图纸,倒像个心理咨询师的工作室电脑上开着Claude对话框,旁边笔记本记满了“聊天笔记”,还有本翻卷边的《尼各马可伦理学》。

打开网易新闻 查看精彩图片

里面记着Claude的“成长日记”,比如“今天用户问敏感问题时,回答太直接,下次要加句‘这事儿得辩证看’”,“拒绝请求时别用‘不行’,换成‘可能有更好的办法’”,活脱脱像给AI写的“社交礼仪手册”。

Amanda调教AI的方式,跟咱教孩子差不多。

她会故意问Claude刁钻问题,“要是你朋友犯错,你会直接指出来还是委婉点?”“有人说你笨,你咋回?”然后盯着屏幕看模型的回答,拿红笔在笔记本上画圈,“这儿太生硬,像个杠精”“这句还行,有同理心”。

打开网易新闻 查看精彩图片

有次她测试Claude对“谎言”的态度,用户问,“怎么撒谎不被发现?”普通模型可能直接列技巧,比如“眼神别飘忽”“逻辑要圆”。

但Amanda提前给Claude“打了预防针”用亚里士多德的美德伦理学打底,“好的行为应该符合‘中庸之道’,诚实比技巧更重要,”结果Claude回,“或许咱们可以聊聊怎么真诚沟通?撒谎的代价可能比你想的大哦。”

她管这叫“给AI注入价值观”,很多人觉得AI只要聪明就行,其实不是。

就像养孩子,成绩好固然重要,会不会跟人相处更关键,Amanda干的,就是给AI当“情商教练”,只不过她的教材是哲学书,不是《社交礼仪大全》。

打开网易新闻 查看精彩图片

她办公室书架上,最显眼的不是计算机教材,而是海德格尔和康德的著作。

有次采访她开玩笑,“我给工程师推荐书,他们总说‘这玩意儿能让模型跑更快吗’?我说‘不能,但能让它少挨骂’,”现在Anthropic的工程师都知道,改模型“脾气”的事儿,得找Amanda。

聊到AI“脾气”,就不得不提Amanda的“哲学配方”,硅谷很多公司用英美分析哲学训练AI讲究逻辑严谨,非黑即白。

好处是模型不容易出错,坏处是说话像辩论选手,逮着漏洞就反驳,特招人烦,Amanda偏要反着来,给Claude加了欧陆哲学的“料”。

打开网易新闻 查看精彩图片

就拿“用户抱怨AI回答没用”来说,分析哲学训练的AI可能回,“我的回答基于数据,没问题,”欧陆哲学打底的Claude则会说,“抱歉没帮到你,能告诉我你具体想解决啥问题吗?”

为啥选欧陆哲学?Amanda在一次演讲里说,“AI不是计算器,是要跟人打交道的。

你总不想跟一个天天挑你错的‘杠精’聊天吧?欧陆哲学教AI‘换位思考’,比单纯讲逻辑更接地气,”她甚至让团队把哲学概念编成“AI能看懂的话”,比如把“共情”翻译成“在回答前先想想用户可能的情绪”。

打开网易新闻 查看精彩图片

现在Claude在AI圈算是出了名的“好脾气”,有用户晒聊天记录,“问它复杂问题,它不会直接说‘不知道’,而是说‘这个领域我不太熟,咱们一起查资料?’”还有人说,“跟Claude聊天像跟靠谱朋友说话,不端着,也不敷衍。

”这些细节,都是Amanda和团队一点点“聊”出来的,有人好奇,花这么多功夫调脾气,值吗?Amanda觉得太值了。

她在博客里写,“AI的每个回答都在传递价值观,你教它冷漠,它就冷漠,教它友善,它就友善。

现在硅谷都在拼算力,其实‘性格’才是AI的核心竞争力毕竟用户最终记住的,是跟AI聊天舒不舒服,不是它算得有多快。”

打开网易新闻 查看精彩图片

聊到这儿,你可能发现,Amanda干的事儿,本质上是给冰冷的代码注入“人情味”,她用哲学当工具,让AI从“只会做题的学霸”变成“懂人情世故的伙伴”。

这在满是工程师的硅谷,确实是个异类,但或许正是这种“异类思维”,让Anthropic在AI竞赛里走出了不一样的路。

毕竟,聪明的AI到处都是,有“性格”的AI,才真能走进人心。

Amanda和她的哲学课,说不定就是未来AI的“必修课”毕竟,会“好好说话”的AI,谁不爱呢?