万一机器人控制了人类，怎么办

　　我曾多次对朋友说，假如有一天世界上出现了这样的机器人——它们完全摆脱了人类的控制，能够自由自在地行动，并且能够自己研究和生产更先进的机器人——那人类就可能完全受机器人控制，成为机器人的奴隶，甚至被机器人关进笼子，供它们解剖做实验用或供它们观赏。

　　朋友总是充满自信，他认为机器人是人类研制的，当然会受到人类的控制。他说的虽然有道理，但还是说服不了我，因为我觉得有很多种可能性导致人类控制不了机器人：按照设计，本来是能控制某种机器人的，但可能由于设计中有错误或没有完全按设计生产，结果生产出来的机器人不被人类所控制；设计人员本来是能控制某种机器人的，但由于设计人员出了意外，就无人能控制机器人了……

　　原本以为只有像我这样知识贫乏的人才会有如此荒唐的想法，谁知大科学家霍金教授也这么说。在前不久的伦敦“谷歌时代精神”大会上，他平静地描述了人类的命运：“在未来100年内，结合人工智能的计算机将会变得比人类更聪明。”这位大科学家认为，届时，人类将被机器控制。为了让人信服，他还讲了一个故事：“世上真的有上帝吗？”科学家用颤抖的声音问道。“现在有了。”世界上最聪明的人工智能电脑回答。说完，一道电光闪过它的电源插头——人们再也关不掉它了。微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克的名字也赫然在列。在他们看来，飞速发展的人工智能已经成为“我们现存的最大威胁”。甚至，有学者描绘了人类完全被机器人“脾气”主宰的悲凉命运——它若残暴，我们可能被屠杀；它若人道，我们的出生率可能被逐渐降低，自然灭绝；若它们当中有善良的自由主义者，我们将被驯化。

　　除了计算机，人类还可能以其他方式消灭自己。比如，是不是哪天会出现这样先进的武器：只须扔出去一枚，就能将地球毁了？如果出现这样的武器，又恰巧遇上一个狂人，人类的未来就着实让人担忧了。我们今天说某种科技成果对人类无害，有可能只是一时没有发现它对人类的潜在危害，但到了几百年之后，它的危害可能显露出来，而那时人类可能对它已经束手无策了，只能眼睁睁看着它伤害人类。

　　我们发展科学，本来是为了人类的生活更加美好，可是由于某种原因，科技发展的成果在某些领域和时刻却给人类带来了灭亡。当然，这说的可能还是比较极端的情形，此外，还可能有某些发展虽不足以让人类灭亡，但也给人类带来巨大伤害，这种伤害有显性的，也有隐性和长久的。

　　我们要看到科学发展所带来的好处，但也要警惕它可能给人类带来的某种危害，警惕短视而自私的人类只看到它的好处却忽视它的潜在危害。科技的发展不是越快越好，计算机不是越先进越好，动车不是跑得越快越好，人类还是多一点辩证思维好。(汪强)

关键词：机器人,控制人类,科学发展