【新智元导读】未来，人如何和「人造人」共存？这就是诺奖得主石黑一雄4月份将带来最新科幻力作《克拉拉与太阳》的主题。
「我不仅指那个器官，而是说那个让我们独一无二的东西。」
这是诺奖得主石黑一雄在新书《克拉拉与太阳》中探讨的问题，对于人工智能和我们而言，如何去爱和承诺。
《克拉拉与太阳》的故事发生在未来美国。
专为陪伴儿童设计的「太阳能」人工智能机器人「克拉拉」是一个「同理心」功能突出的二代AF（Artificial Friends）机器人，她负责陪伴人类伙伴乔西生活。
但是无论克拉拉怎么优秀，却自始至终无法的得到人类的信任。
乔西母亲想要利用她，让她在女儿死后「延续乔西」，给予克拉拉最好的结局，可乔西的病一经恢复，母亲便立刻疏远了克拉拉；
画家和管家，完全将克拉拉当成一件工具和机器，眼里要么是厌恶与蔑视，要么就是想利用克拉拉；
至于乔西，虽然与克拉拉交好，但随着慢慢长大，克拉拉在她眼里也不过是旧日的玩伴，亦或是玩具？渐渐忽视、丢弃了她。
最终，克拉拉被丢进了垃圾场，像废品一样慢慢等待生命终结。
本书构建于「CRISPR」技术之上，即细菌通过把外来DNA编入自己的基因中，从而获得基因上的免疫。如果人的基因也这样操作，那就无需每个人都打疫苗了，也就是「基因编辑」。
这项技术在2012年和2013年是Science年度突破的第二名，在2015年的第一。在2014年和2016年CRISPR被《麻省理工科技评论》评为10项突破技术之一。
CRISPR技术已被用于治疗镰状血细胞，未来也可用于粮食生产等领域。而且它价格比较便宜，实施上不困难，可以大规模应用，研发进度也很快。
但也正因如此，CRISPR可能被滥用，很难受到政府监管，而背后的技术发展支持也来自于私企。
当作者首次听说CRISPR技术时，就认为这是一项重大突破。当你也到七十岁时，你会发现，所有的冲突都与不平等的制度、种族歧视、等级制度有关。
AlphaGo在现实中「大杀四方」，模型也迭代过多次，但它面对李世石无法欢呼或痛哭。
GPT-3也能够流畅写出长文，发表论文，论坛灌水，但它是否能写出真正带有情感的文字，让读者感同身受而流泪，而非只是通过图灵测试？
DeepMind的创始人之一Demis Hassabis认为，关键的问题是，人类无法通过情感来控制人工智能达到共鸣。
世界存在冲突争端，源于我们的性格、教育、知识背景不同，这也说明了每个人在世界上都是独一无二的。
当人工智能出现时，我们「如何控制他」成为了一个严肃的问题。
目前的人工智能取得了重大突破，主要源于「强化学习」对于行为的奖惩机制，而实际上大部分模型都是「黑匣子」，在没有仿真的情况下，我们无法真正预测AI的行为。
而且在人工智能眼中只有目标，并没有过程，可能产生一些有破坏性的行为。
当我们依赖人工智能决策时，如何避免不公正的决策，从黑匣子中取出「偏见」。
也许可以创造一些类似于阿西莫夫的「机器人三定律」来判断什么是好的，什么是坏的。
例如当你说追求「自由」时，许多人就会认为自由就是在国会大厦里暴动来恢复民主。
在实际执行过程中，让一个人监督整个运算过程是不现实的，我们大脑的运算速度太慢了。
目前科技巨头并不想引导有关「伦理」的讨论，以确保社会舆论不会影响业务范围。
但人与人工智能共存，思想无可避免的会受到感染。当人工智能取代了大部分原来人的岗位，我们要学会重新分配社会上的财富和岗位。
科学家的愿景是创造和人类一样聪明的家伙，但以目前的技术来看还不太现实。
但我们应该乐观，所有科学上的突破都是伟大的，我们应该做好准备。
从《弗兰肯斯坦》（1818）开始，科学和科幻小说之间就展开了一场追逐游戏。
许多科幻小说提出的观点堪比科学发现，有的甚至更加超前。
科幻小说之所以这么令人着迷，不仅仅是因为它们反映出当时最新科学的发展，还展示出了文学对科学研究的深刻影响。
虽然科幻小说并不能直接激发科学革命，但却给人们提供了一个无穷的想象空间，而其中一些幻想经过一段时间确实在科学上成为了现实。
就像玛格丽特·卡文迪什在《燃烧的世界》（The Blazing World）里说的那样：「小说只是人类脑海中的构想，不管其中所描绘的东西在现实世界是否真的存在，只要他有这样的想法，这个东西就可以是真的存在。」
因为「在你平凡的生活中，没有人会告诉你这个世界上还存在着很多奇怪和未知的人类与国家。」莫尔在描述虚构乌托邦的发现者那具有召唤力且激动人心的旅程时这样描述。
在想象的过程中，充满了好奇和奇迹，也许这就是科幻小说的核心所在——激发无尽的好奇心，同时也带给人们一些反思。
HARM. 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管 LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS ... 阿西莫夫机器人三大定律是什么？ 答：机器人学三定律： 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管； 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外； 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生... 机器人三大定则是什么？ 答：阿西莫夫( Isaac Asimov)与他的出版人坎贝尔合创了“机器人学三大定律”——— LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM. 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受... 机器人三定律是那三条 有没有0号定律 答：如你所说，有零号定律。 0号：在保护人类整体利益的前提下，以下三条定律才存在。 1号：在遵循0号定律的前提下，机器人不得伤害人,也不得见人受到伤害而袖手旁观。 2号：机器人应服从人的一切命令,但不得违反零号和第一定律。 3号：机器人应尽力... 机器人三定律是什么?_? 答：第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。 第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。 第三定律：机器人在不违反第一、第二定律的... 有个 科幻片我给忘了，里边说的机器人三大定律是什... 答：我，机器人 I, Robot (2004) 导演: 亚历克斯·普罗亚斯 编剧: Jeff Vintar / 阿齐瓦·高斯曼 / 艾萨克·阿西莫夫 主演: 威尔·史密斯 / 布丽姬·穆娜 / 艾伦·图代克 /布鲁斯·格林伍德 类型: 动作 / 科幻 / 悬疑 / 惊悚 制片国家/地区: 美国 / 德国 语... 机器人的三大定律是什么？ 答：第一法则：机器人不得伤害人类，或袖手旁观坐视人类受到伤害； 第二法则：除非违背第一法则，机器人必须服从人类的命令； 第三法则：在不违背第一及第二法则下，机器人必须保护自己。 “机器人三大原则”是什么？ 答：一.机器人不得伤害人，也不得见人受到伤害而袖手旁观 二.机器人应服从人的一切命令，但不得违反第一定律 三.机器人应保护自身的安全，但不得违反第一、第二定律 后来又补充了机器人零定律： 为什么后来要定出这条“零定律”呢？打个比方，为了维持...
本文标题： 机器人三大定律（机器人三大定律悖论）
版权声明：如果本文导致的版权问题以及内容纠错问题请联系站长QQ:1004619。
