文/陈根

根据路透社8月30日的报道，英国官员正在警告机构组织注意将人工智能聊天机器人整合到业务中可能带来的风险。他们指出，越来越多的研究显示，机构组织有可能被诱骗从事有害的任务

其实AI聊天机器人目前所面临的问题相对还比较多，毕竟是一项新的技术，各种应用与标准都还不完善。AI聊天机器人在政府以及公司工作中的使用，不仅存在着数据与网络的安全风险，同时由于AI幻觉问题也在一定程度上影响着AI使用的质量。

而目前将AI聊天用于日常的娱乐，包括网络文学的创作方面，这将会是一个不错的工具。但是如果要应用于相对严谨的资料处理，包括知识领域的应用，目前还需要谨慎的对待。

如果只是一个假的AI聊天机器人，其实就是一个数据库问答或者资料问答的形式。虽然这种类型的聊天对话相对可靠，但它与真正的AI聊天机器人并没有关联

当前，摆在各国政府以及企业面前的现实挑战是两方面：一方面是如何快速的发展出成熟、可靠的AI大模型应用技术，另外一方面则是如何有效监管AI大模型的使用安全性。