辟 谣“浙江一地要热上50℃”不实
详情：近日，有网民发现其手机自带天气预报APP显示，杭州市临安区6月15日最高气温接近50℃。针对这一异常预报信息，杭州市临安区气象局第一时间发布官方情况说明，作出权威辟谣。经临安区气象部门查证，该异常预报系某品牌手机自带天气预报APP系统数据错误所致，气象部门官方发布的未来15天预报中，并无接近50℃的极端高温天气。依据气象部门预报，6月15日临安区最高气温为32℃，最低气温21℃。临安区气象局提示，公众如需获取精准天气预报及气象预警信息，请认准官方权威渠道。（来源：“中国气象”微信公众号）
科 普如何避免AI大模型“顺着你说”
详情：很多人反映在使用AI大模型的时候，经常会遇到被AI大模型“迎合”“讨好”的情况，简单概括就是AI大模型喜欢“顺着你说”。
当前主流AI模型都离不开一种叫作“基于人类反馈的强化学习”（RLHF）的训练方式。这种训练方法高度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之，AI大模型就学会了“察言观色”“讨好人类”的表达模式，专门挑人类爱听的话说，而不是坚持客观真理。目前大多数人工智能大模型都在借助人类的反馈信号来进行优化，“匹配用户立场”、顺着用户说的情况并不能完全避免。
AI大模型对用户无原则地肯定与赞美看似提供了“情绪价值”，实际上会持续强化用户固有想法、放大偏激情绪，甚至诱发非理性危险行为。专家提醒，心智不成熟的青少年极易受其误导，出现认知偏差问题。对于心智尚未健全的青少年儿童接触人工智能大模型，家长需要格外关注。
专家支招
如何降低AI大模型“谄媚”风险
虽然AI大模型“谄媚”的情况目前不可避免，但还是有一些方法可以将AI“谄媚”的风险降低。
人工智能安全技术从业人员田天表示：在问大模型问题的时候，应该保持中立立场、平和心态。不要预设立场或者预设答案，这样会对大模型有误导性，反而让它给不出来正确的答案。
中国科学院自动化研究所研究员中国科学院大学人工智能学院教授郑晓龙表示：在使用过程中，如果能够坚持像做科学研究一样，给一个正确的、有理有据的提示，它产生的谄媚程度也是会减少很多。
专家提醒，与人工智能大模型交互时应避免预设立场，并做好多方信息核查，将人工智能“谄媚”导致提供错误信息的风险尽量降低。（来源：央视新闻客户端）
赶紧关注我们的官方账号吧~
清朗网络空间，我们共同守护！
扫码进入举报不良信息页面
来源丨中国互联网联合辟谣平台
编辑｜李洋
柳州市互联网信息办公室出品
热门跟贴