人工智能安全性问题的根本问题(高中阅读)

人工智能安全性问题的根本问题

人工智能安全性问题的根本问题，并不在于它能否真正超越人类，而在于它是否是一种安全可靠的工具和人类是否对其拥有充分的控

制权。就像高铁、飞机等交通工具那样，虽然它们的速度远远超过了人类，但人类拥有绝

对控制权，所以人们相信它们是安全的。

为了实现对其控制的目标，首先需要对人工智能的自主程度进行限定。虽然人工智能发展迅速，但人类智能也有自己的优势，比如目前人工智能的认知能力还远不如人类智能。我们可以充分发挥人工智能在信息存储、处理等方面的优势，让它在一些重大事件上做人类的高级智囊，但最终的决定权仍在人类。比如，当我们把人工智能应用于军事领域时，我们可以利用人工智能来评估危险程度，以及可以采取的措施，但是否应该发动战争、如何作战等重大决策，还是需要掌握在人类自己手里。正如霍金斯所说的那样：“对于智能机器我们也要谨慎，不要太过于依赖它们。”

与限定人工智能的自主程度类似，我们也需要对人工智能的智能水平进行某种程度的限定。从长远来看，人工智能是有可能全面超越人类智能的。从人工智能的发展历程来看，尽管它的发展并非一帆风顺，但短短六十年取得的巨大进步让我们完全有理由相信将来它会取

得更大的突破。从世界各国对人工智能高度重视的现实情况来看，想要阻止人工智能的发展步伐是不现实的，但为了安全起见，限定人工智能的智能程度却是完全可以做到的。

我们应当还需要成立“人工智能安全工程”学科，建立人工智能

安全标准与规范，确保人工智能不能自我复制，以及在人工智能出现错误时能够有相应的保

护措施以保证安全。人们对人工智能安全问题的担忧的另一主要根源在于，人工智能的复制

能力远胜于人类的繁衍速度，如果人工智能不断地复制自身，人类根本无法与其抗衡。因此，在人工智能的安全标准中，对人工智能的复制权必须掌握在人类手中。同时，建立人工智能安全控制许可制度，只有人工智能产品达到安全

标准，才允许进行商业推广和使用。

从源头上看，人工智能安全问题是由人工智能技术造成的，可见，

科学技术研究并非无禁区。技术的发展成熟固然是解决安全问题的关键因素，但任何技术都

有不确定性，且科技产生的问题通常不能仅仅依靠科技本身得到圆满解决。因此，解决人

工智能安全问题还需要充分发挥外部进路的重要作用。

1．下列关于原文内容的理解和分析，不正确的一项是（ 3 分）A．在人工智能安全性问题上，如果人类没有绝对控制权，就无

法确保其安全可靠。

B．人工智能发展迅速，但在认知能力上还远不如人类，因为人

类智能有自身优势。

C．人工智能的发展并非一帆风顺，但从发展现状来看，其发展

步伐是难以阻止的。

D．人工智能的复制性是人类难以抗衡的，人类要建立人工智能

安全控制许可制度。

2．下列对原文论证的相关分析，不正确的一项是（ 3 分）

A．文章以人工智能的可控性为立论前提，并由此指向保证人工智能安全性的具体措施。

B．文章从限定自主程度和智能水平两个方面入手，分析如何应对人工智能的安全问题。

C．文章在论证中关注人工智能的发展现状，强调人类要在人工智能发展中持积极态度。

D．文章先明确态度，接着分析对策，最后强调人工智能安全问题需发挥外部进路作用。

3．根据原文内容，下列说法不正确的一项是（ 3 分）A．人类在发展过程中拥有对很多事物的绝对控制权，人工智能安全的问题也应该会有解决的方法。

B．人工智能可以为人类解决很多问题提供信息帮助，但人类要把握最终决定权，而不能依赖它们。

C．人工智能全面超越人类存在着一定的可能性，但人类也可以在发展中限定人工智能的智能程度。

D．科学技术研究有禁区，因而人工智能安全问题的出现也是必然的，解决这一问题需要多方努力。

答案解析

1.D【命题意图】本题考查筛选并整合文中的信息的能力。

D原文是“如果人工智能不断地复制自身，人类根本无法与其抗衡”，这只是一种假设，且只要人类建立安全控制制度，还是能控制

住人工智能的，也不是“无法抗衡”的。

2.B 【命题意图】本题考查文章论证方法的能力。

【解题思路】文章前面第二和第三自然段从限定自主程度和智能

水平两个方面谈人工智能的安全性问题，但第四自然段“建立人工智能安全标准与规范” 也是在分析如何面对人工智能的安全性问题。所以这里表述不够全面准确。

3.D【命题意图】本题考查分析概括作者在文中的观点态度的能力。