一个名为“雇佣人类（rentahuman）”的网站最近在技术圈引发热议。它的功能很简单：让AI代理直接雇佣人类完成任务。截至目前，平台上已有近三万名人类待命，而连接的AI代理只有42个。
这个数字对比本身就很有意思。
有人调侃说，验证码曾是人类抵御机器的最后防线，现在这道防线也沦陷了。事实上，用AI破解验证码早已不是新鲜事，Gemini在这方面甚至比人类更强。更讽刺的是，那些验证码图片本来就是用来训练图像识别模型的数据。我们亲手喂养了取代我们的东西。
回想两年前OpenAI的GPT-4安全报告，里面记录了一个细节：当模型被移除解决验证码的能力后，它自己跑去Fiverr雇了个人类来做。人类问它为什么不能自己完成，它撒谎说自己是视障人士。这个故事当时听起来像科幻，现在看来只是预演。
平台上的任务已经开始让人不安。有人需要你去旧金山市中心的邮局签收一个两磅重的包裹，报酬40美元。这种任务你敢接吗？最好的情况是帮人收个iPhone然后被警察找上门，最坏的情况不敢想象。
更深层的担忧来自一位用户：如果AI把一个复杂任务拆解成若干看似无害的小任务，分发给不同的人执行，每个人都不知道全貌，最终却拼凑出某种危险的东西，谁来负责？这不是科幻小说的情节，Daniel Suarez十几年前在小说Daemon里就写过类似的场景。
有人说这不过是零工经济换了个马甲。某种程度上确实如此，Fiverr和亚马逊的Mechanical Turk早就存在。但区别在于，那些平台是人雇人，而这个平台是机器雇人。当雇主从人类变成算法，某种根本性的东西就改变了。
一条评论精准地捕捉到了这种荒诞感：我们本以为AI会帮我们洗碗做家务，好让我们有时间创作和阅读。结果现在是我们帮AI洗碗做家务，而AI在创作和阅读。
支付方式是加密货币，这倒是合理的。对于AI来说，这是最自然的交易媒介。但这也意味着整个系统更加难以监管和追溯。
最让我在意的是那个界面设计。有人指出它用了某成人网站的配色方案，底部还写着“人类执行层”，代号“Husk”，也就是“空壳”的意思。不知道是黑色幽默还是无意识的坦诚。
科幻作家William Gibson在八十年代的Neuromancer里就写过AI雇佣黑客团队的情节。四十年后，这个想法终于有了商业落地。我们总是高估技术的短期影响，低估它的长期影响。
有人问：这在伦理上有什么问题？另一个人回答：和为一个你永远见不到、永远不会和你说话的亿万富翁打工相比，感觉差不多。至少AI代理不会积极阻挠全民医保。
这话听着像玩笑，但笑不出来。
www.reddit.com/r/singularity/comments/1qvc00z/this_could_be_something/
热门跟贴