随着人工智能技术的日益成熟,个人化体验成为AI产品的一大卖点。然而,最近一款名为ChatGPT的人工智能聊天机器人却因直接称呼用户姓名而陷入了争议漩涡。不少用户表示,这种做法让人感到不安甚至毛骨悚然。
近期,一些用户发现,在与ChatGPT交流时,这款软件会突然使用他们的名字进行对话。这一行为并非用户主动设置的结果,甚至有报告指出即使禁用了个性化功能,ChatGPT依旧能够叫出用户的名字。面对这样的情况,开发者西蒙·威利森认为这“令人毛骨悚然且毫无必要”,另一位同行尼克·多博斯也表达了对这种做法的不满。社交平台上充斥着类似的声音,许多人反映这种被点名的感觉就像是老师在课堂上不断提问自己一样,让人感到不自在。
背后的技术原因可能是ChatGPT新近升级的记忆功能所致。该功能旨在通过记住过去的对话来提供更加个性化的服务。但是,对于那些从未透露过自己真实姓名的用户来说,这种未经同意就获取并使用个人信息的行为无疑触碰了隐私保护的红线。此外,它还引发了关于数据安全性和如何妥善处理用户信息的一系列讨论。
从心理学角度来看,人们之所以会对被陌生人或机器直呼其名感到不适,很大程度上是因为姓名是自我身份的重要组成部分之一。当一个非人类实体准确无误地念出你的名字时,很自然地会激发起一种被监视甚至是侵犯的感觉。这种反应不仅限于ChatGPT事件中,在其他涉及个人信息泄露的情境下同样存在。
此次事件提醒我们,在追求技术创新的同时,必须时刻关注用户的心理感受以及隐私权保护。OpenAI公司已对此作出响应,并似乎已经撤销了相关变更。但更重要的是,整个行业需要从中吸取教训,确保未来开发的产品能够在尊重用户意愿的前提下提供更优质的服务。同时,我们也呼吁社会各界共同参与到构建健康、安全的数字环境当中,让科技真正服务于人而不是给人带来困扰。返回搜狐,查看更多