银行、电子钱包在使用人工智能系统与客户直接互动前,必须通知客户。
越南国家银行在关于银行业人工智能应用安全、风险管理及条件的通知草案中表示,该规定适用于虚拟助手、自动总机、聊天机器人等系统。
各银行、电子钱包若使用人工智能进行情绪识别或生物特征分类,也需要提前通知客户。他们必须公开由人工智能生成的内容(图像、声音、视频等),以避免混淆。
同样根据草案,银行不得利用人工智能利用客户的弱点(由于年龄、残疾或经济状况等问题)来诱导他们使用不适当的高风险金融产品和服务。
打开网易新闻 查看精彩图片
图中展示的是由 ChatGPT 创建的 AI 聊天机器人,它正在银行提供咨询服务
客户有权对银行基于人工智能作出的决定提出申诉。在这种情况下,银行必须使用人工人员进行审查并提出处理方案。
这些规定预计自3月起生效。对于在此时间点之前已部署的人工智能系统,生效期限推迟至2027年9月,以便各银行、电子钱包进行审查和遵守。
越南国家银行表示,收紧银行系统中人工智能的使用是为了控制和减少潜在风险。此举旨在确保客户受到公平对待,并保护弱势群体。
在越南,许多银行大约10年前开始尝试聊天机器人和虚拟助手。大多数机构使用预设脚本的聊天机器人,通过识别输入文本中的关键词,基于一套固定规则进行回答。目前,生成式人工智能正逐渐普及,旨在取代咨询顾问的角色,回答有关交易、卡务服务、利率、汇率等信息。
据越南国家银行称,许多银行和电子钱包正在不同业务领域大力应用人工智能,如电子身份认证、信用评分、贷款审批、支付欺诈检测等。监管机构认为,这也带来了风险和信息系统的安全挑战,如输出数据偏差、侵犯客户隐私等。
打开网易新闻 查看精彩图片
热门跟贴