通过阿莱娜·库祖布 , 东北大学
东北大学的一位专家表示，在不久的将来，人们在互联网上消费的大部分信息都将受到人工智能的影响。
媒体创新副教授 John Wihbey 表示，虽然不可能放慢人工智能的使用速度，但了解人工智能的局限性（包括它不能做什么和不应该做什么）并为其开发和部署采用道德规范至关重要。和技术。
维贝说，如果不这样做，民主就会处于危险之中。
他说，今天的民主是一个由人们集体处理信息以解决问题的复杂系统。公众消费的知识和信息在支持民主生活方面发挥着关键作用。
聊天机器人可以模拟人类对话并有效地执行日常任务，而人工智能代理是自主智能系统，无需人工干预即可通过执行任务来解决客户请求。维贝说，它们可能很快就会在新闻、社交媒体审核和民意调查等信息领域取代人类。
“随着人工智能系统开始创造公共叙事并开始调节和控制公共知识，”维贝说，“在对世界的理解方面可能会出现某种锁定。”
人工智能和大型语言模型根据有关人们价值观和兴趣的过去数据进行训练并生成内容。维贝说，他们将不断强化过去的想法和偏好，创造反馈循环和回声室。
他说，这种反馈循环的风险仍将反复出现。
Wihbey 表示，在新闻业中，人工智能可能会进一步融入新闻编辑室，以发现和验证信息、对内容进行分类、对社交媒体进行大规模分析，甚至自动生成事件报道，包括公民和政府会议。
他说，整个城市或更大的地区，即所谓的新闻沙漠，最终可能会被人工智能代理覆盖。
Wihbey 表示，在社交媒体上，人工智能审核员的判断受到过时数据的制约，与最新的人类偏好不符，可能会过度审核并删除用户的帖子和评论——这是现代人类思考的重要空间。
如果他们无法跟上快速变化的人类环境，聊天模式也可能会受到反馈循环的影响。他们的行为将影响公众知识，或者人类认为真实且值得关注的内容。
人工智能驱动的民意调查模拟可能会扭曲结果，影响公民的结论。这种扭曲的知识将反复影响民主空间中的人类偏好和决策——例如，人们相信什么或他们可能投票给谁——从而形成递归螺旋。
维贝说，人工智能模型本质上永远无法准确预测公众对某件事或选举结果的反应。
“一些关于人工智能如何模拟人类民意调查的研究表明，在数据尚未在模型中建立良好的情况下，这是事实，”他说。 “在政治和社会生活中，许多重要的事情从根本上来说都是新兴的。
由...提供 东北大学
本文由东北全球新闻 news.northeastern.edu 转载。
