由“莫斯”引发的思考

一、从看完《流浪地球》说起

大东：小白，新年假期过的怎样样呀？

小白：东哥，一句话给你概括下我觉得假期里蛮好玩的一件事！“路程千万条，安全第一条。行车不规范，亲人两行泪。”

大东：哈哈，《流浪地球》确实是新年电影的一匹黑马啊，是我们热议的焦点。不知小白在看完电影有什么收成呢？

小白：东哥，不瞒您说，电影的后半程，我一贯忙着在哭诶。虽然我是个理科生，但里面涉及到的许多物理地舆知识我都不太懂，仍是出了电影院，宽广网友们帮我广泛的知识呢。流行全网的我们中科院核算所王元卓教师给女儿手绘的说明图更是帮我解开了许多的疑团。真的是通俗易懂，形象生动。

其间一张手绘说明图

小白：东哥，电影里除了帅气的小哥哥，我对其间一个人物最感兴趣！而且，对他还充满了疑问呢。

大东：我猜你说的是站中的人工智能管家“莫斯”吧。

小白：东哥，懂我。

大东：我不算是人工智能领域的专家，也不敢随意去估测导演和编剧的科幻规划。从一个还算凶狠的观众角度，我可以试着给帮你答复一下关于“莫斯”疑问，不过最重要的仍是谈论谈论由“莫斯”引发的在网络安全领域的一些考虑。

二、“莫斯”

小白：在终究的危机时刻，莫斯否定了男主人公的幻想，认为点着木星是一个不或许结束的任务，在联合政府有关负责人现已想要协作检验的时分，仍是拒绝协作指令。莫斯是想保护自己或许说他现已具有了一些自己的思想吗？

电影中的“莫斯”电影中的“莫斯”

大东：人工智能和机器人的出现本就带有不确定性。影片中，我们可以看出机器人莫斯的系统中有两条底层指令：第一条是保护地球，第二条是保护空间站。你觉得这两个指令关于莫斯来说哪个更重要？

小白：莫斯选择带着空间站“叛逃”，我觉得“保护空间站”这条指令的等级要比“保护地球”更高，因为空间站备份了整个人类的文明档案，还有足够多的人类受精卵，在地球遇到毁灭性冲击的时分，莫斯带着它们逃出生天是最高等级的指令，也是最好的选择。莫斯也可以更好的保护他自己。

大东：说的不错，这也是为什么新近以色列科学家提出相同主见时，机器人通过核算喷射距离判定成功率是零。终究的成功结局是男主牺牲自己和整个空间站才交流得来的。机器人这种技术的不确定性，引起了许多人的警觉，为了保护人类，早在1940年出名科幻作家阿西莫夫提出了最经典的机器人三原则，假设你感兴趣可以去查找看看哦。

小白：没想到东哥在科幻领域还有很深的研讨啊。仔细想来，整个影片仍是蛮有逻辑性的。

大东：还记住男主是怎样让莫斯乖乖听话，拿回人工控制权的吗？

小白：当然记住，一瓶“违规”的加加林呀，破坏了整个莫斯才完结的。东哥，我如同懂你的意思啦。我们关于剧情的谈论就到这儿，打开安全领域的谈论吧。

大东：你个小机灵鬼。

三、由“莫斯”引发的考虑

小白：在我看来啊，人工智能是个很好的网络安全东西，但也是一把双刃剑。

大东：抢我台词了。那我就借用一位专家在演说中的一句话来说吧。当一个新技术用于安全时，会存在两种情况：一种是用新技术支撑安全，当然它可以做侵犯，也可以做防护；第二种是一个新技术自身就会带来一个新的安全问题。

机器人

小白：说起人工智能用来帮忙安全作业人员做防护，不知道我这样了解是不是对的呢？比如，假设一名作业人员通常在北京作业，俄然有一天早上从纽约登录，这是一种反常现象——人工智能可以看出这是一种反常现象。

大东：了解的很对，但其实远远不止这么简略。人工智能可以帮安全许多许多的忙，可以自动点评开源代码的潜在缺陷，可以辨认暗码的泄露或许误用，分析潜在的安全行为途径等等等等。但一同也是“侵犯者”的珍宝。

小白：说起侵犯，就有点怕怕了。感觉还可以大大提高侵犯的功率呢，不敢想不敢想。

大东：网络违法分子运用人工智能中的技术，它可以被用于各种恶意的任务。比如对打开的、易受侵犯的端口进行的扫描，或许是电子邮件的自动组合，甚至完结被24小时偷听。再例如，运用鱼叉式网络垂钓的自动化，运用实时语音组成来仿照侵犯和欺诈，或许在规划上进行像包嗅探和缝隙侵犯这样的活动。

小白：面对科技真的要双向去看待呀。

大东：我们还有一个角度没有谈论哦，人工智能自身是否存在一些安全问题呢？

小白：（假装听不见）。

大东：人工智能自身存在着一些脆弱性。比如，在拥堵的北京三环路上，自动驾驭的轿车是否能顺利的从正确的出口跋涉出来呢？人工智能它一定要保护一个安全距离，但人却是会打心理战的。人工智能甚至或许出现挟制人类的潜在风险。

小白：任何技术都会存在潜在的安全问题，我们不能因为这个就判别这项技术是不是好的，而是要理性的判别，通过一些方法来让技术更好的为我们效力，而不是成为违法份子的机遇，你说是不是，东哥？

大东：诶嘿，你这是在教育我吗？你别跑。你给我回来！给你留个作业，好好想想我刚才提到的经典的机器人三原则，写个读后感！