最近，有关ChatGPT和人工智能，几乎每天都有新闻。随着更“聪明”的GPT-4发布，人们对技术的恐慌和对科技伦理的担忧，得到了更多关注。3月27日，《中国青年报》以《GPT-4再燃热点 拷问科技伦理边界》为题对该现象进行了报道。
最新的消息是，当地时间3月29日，美国非营利组织未来生命研究所(Future of Life Institute)发布了一封名为“暂停巨型AI实验”的公开信。上千名人工智能专家和行业高管在信中呼吁，所有人工智能实验室应当暂停对更强大的人工智能系统的开发和训练。至少，暂停半年。他们建议，如果不能迅速实施这种暂停，“政府应介入并实行暂停”。
人工智能对社会和人类的潜在风险，已经成为不少科技人士的共识，其中包括“人工智能教父”杰弗里·辛顿、特斯拉和推特CEO埃隆·马斯克、图灵奖得主约书亚·本希奥。为此，他们在这封公开信上签下了自己的名字。
“只有当我们能够确信，AI体系的有利因素都是积极的，且风险都可控，一个强大的AI体系才能成熟。”公开信中这样写道。
实际上，这不是未来生命研究所第一次公开呼吁对人工智能发展的警惕。2014年，这个组织在美国成立，成立的初衷一方面是促进对“未来乐观图景”的研究，一方面则是“降低人类面临的现存风险”。而后者一直是其关注的重点。
2015年，物理学家斯蒂芬·霍金和埃隆·马斯克等数位科学家、企业家，与人工智能领域有关的投资者，联名发出了一封公开信，警告人们必须更多地注意人工智能的安全性及其社会效益。
那时，AI还没有像今天这样，呈现出令人不安的“智能”。但从那时候开始，马斯克就已经表示，他坚信不受控制的人工智能“可能比核武器更危险”。
8年后，在愈来愈动荡的经济形势中，新一封公开信的签署者们提出疑问：“我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们是否应该自动化所有工作，包括令人满意的工作？我们是否应该发展最终可能比我们更多、更聪明，淘汰并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？”
欧洲刑警组织3月27日也发出警告，ChatGPT等人工智能聊天机器人很可能被犯罪分子滥用：“大型语言模型检测和重现语言模式的能力，不仅有助于网络钓鱼和在线欺诈，还可以用来冒充特定个人或群体的讲话风格。”他们的创新实验室已经组织了多次研讨会，探讨犯罪分子可能会怎么做，列出了潜在的有害使用方式。
这些签署者希望，奔向危险的脚步能够“暂停”，先共同开发出一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。AI开发人员也需要与政策制定者合作，开发强大的AI治理系统。
至少，建立专门负责AI的、有足够准备和能力的监管机构。
中青报·中青网记者 张渺 来源：中国青年报 【编辑:叶攀】
公安部：2022年全国因公牺牲民警308名、辅警179名
香港多管齐下提升青年中华民族自豪感与主人翁意识
因辩护人申请，重庆姐弟坠亡案二审延期至4月6日开庭
两协会发布倡议书：倡导茶叶适度包装
布林肯与拉夫罗夫罕见通话，讨论了这件事
困在投诉里的小哥，怎么“跳”出来？
“家有同款”！小学生迷上盘手串，都是压力大闹的？
直播带货美颜加滤镜几成惯例 消费者知情权如何保障？
刘少林与刘少昂：走上领奖台，从头开始
《铃芽之旅》导演新海诚：触不可及的天空与预判中的改变
余光中为何说“蓝墨水的上上游是秭归”？
南京招募更多紫金草志愿者：让和平的声音传遍全世界
中国国产大飞机C919敦煌机场创大强度试飞多项纪录
“治沙英雄”王有德：生命不息 治沙不止
金融反腐风暴持续 3月份国有大行已数人被查
马英九回乡祭祖：慎终追远 夙愿得偿
外媒：出庭前最后一晚，特朗普可能在这里度过
“绝命毒师”落网，“丧尸药”制贩大案告破
版权声明
本文仅代表作者观点，不代表本站立场。
本文系作者授权发表，未经许可，不得转载。
本文地址：http://www.shanxidayuan.com/zcjh/caijing/66254.html
