人类过于信任和依赖AI,专家联手提出分级治理中国方案|讲堂视频
文汇报
·上海
·文汇报官方网易号
打开网易新闻 查看精彩图片
欧洲科学院院士金耀初坦言,三年前,担忧的是人们不信任AI产品,如今担忧的是有的非AI人士过于相信AI;上海人工智能实验室主任助理、领军科学家胡侠也提出了美国警察在工作中对AI产生依赖的案例。
“AI 存在治理时间差”。日前,安远AI联合上海人工智能实验室、清华大学智能产业研究院和华为共同发布“通用型人工智能体L1到L5分级安全框架白皮书”,系统分析了自主性等级在决策自主度、降险自主度上的能力特征,以及人类用户和智能体的角色分工。其中,在低等级时,决策和降险的执行责任全部由人类用户承担,以L3为分界点,到L4和L5逐渐过渡到由智能体承担。
热门跟贴