必发88官网法苑

咨询电话 (8621)56782789

必发88官网法律高端讲坛|人类福音or潘多拉魔盒?马长山谈AI的社会风险及法律规制

更新时间:2018-11-01 09:46来源:未知

“大家站在一个美丽新世界的门槛上。这是一个令人激动的、也是危险的位置,而你们就是先驱者。”——霍金

 

 

2016年以来,核心技术的屡获突破与重磅资讯的接踵而至,让人工智能这一事物早已不再像从前那般神秘。关于人工智能到底是人类的福音还是潘多拉魔盒,该如何评价人工智能的社会风险都成为学界乃至业界大咖们争论的焦点问题。

 

10月26日上午,《华东政法大学学报》主编、法理学大咖马长山教授在上海社科院总部为学生和律师带来一场有关人工智能的思想的盛宴。

 

10月26日上午,《华东政法大学学报》主编、法理学大咖马长山教授应上海社科院法学所与必发88官网之邀,特地在上海社科院总部为学生和律师带来一场有关人工智能的思想的盛宴。在人工智能如此火热的当下,马长山教授为大家分享了关于人工智能这一热门话题的冷思考,引发在场学生和律师们的积极回应和热烈讨论。

 

01AI浪漫主义与人工智能的本质

 

《圣经》中人类始祖亚当和夏娃因有了自主意识而被上帝赶出伊甸园,当人工智能也有了自主意识,人类将把人工智能赶到哪里去呢?
 

 

马长山

 

演讲伊始,马长山教授以西方学问中亚当和夏娃的故事为例表达了他对未来人工智能发展的担忧。

 

他通过波士顿动力企业的人工智能机器人相关短片的形式向大家展示了当前人工智能发展现状,他鲜明地指出人工智能的时代已然到来,但当前人工智能(AI)本质是智能增强(IA)阶段,二者本质区别在于机器人是否具有人类意识。

 

他以大数据杀熟案例引出关于技术并不中立的论断,他谈到一旦算法具备通用性且机器人具有了自主意识,有三个发展方向:机器人想变为人(AI)、机器人取代人(终结者)、人机合体获得重生。

 

为了避免大家“被大家的造物完全取代”,他强调,发展人工智能,必须坚持人类中心主义,对人工智能的研发预先进行法律规制。

 

02人工智能可能带来的五大社会风险

 

在此基础上,马长山教授围绕人工智能的社会风险,详细阐释了人工智能可能存在的伦理风险、极化风险、异化风险、规制风险以及责任风险。

 

一旦人工智能有了自主意识,势必会引发关于机器人伦理、人机关系的相关争论,人文精神也可能面临巨大危机。

 

关于极化风险,他指出,人工智能技术的垄断将导致巨大的数字鸿沟,人工智能取代人类工作将产生无用阶级,进而导致人类贫富分化。

 

“当算法引发了一些自动动作,人类被排除在循环之外,只能被动接受结果”。然而,“危险在于没有人能确保该算法设计准确,尤其是当它与众多算法交互时”。因此马长山教授认为,人工智能可能会导致一些负面后果。此外人工智能从工具变为自主决策者之后,若没有法律进行规制的话可能造成异化发展、滥用等问题。

 

随着人工智能的快速发展,算法逐渐为少数程序员掌握,而大部分用户无法了解程序内部规则时,“黑向社会”将会日益加剧,带来的秩序与公正问题也为国家的介入提供了理由和机会。国家的介入能够促进黑箱社会转向可被理解的社会,然而也可能导致监控国家的出现。

 

此外,算法引发一些自动动作,人类只能被动接受成果,但无法确保算法设计准确,而算法程序往往由众多人类共同开发,追责问题也是一大风险挑战。

 

授课现场

 

03防范人工智能风险应以代码来规制代码

 

针对人工智能可能带来的社会风险,马长山教授从法律规制层面对如何防范人工智能风险给出了自己的意见。

 

他指出,首先要塑造风险社会的法律理念,坚持政府干预合法性;其次要建立多元互动的风险规制体系,采取包括法律规制、伦理规制、行业规制、自律规制等多途径控制风险;最后应确立“过程—结果”的双重规制策略,通过把法律规则转化为代码,并以代码来规制代码即“法律技术化”,实现“代码规制”。

 

“人工智能是人类实现自身解放的重大机遇,但机会与风险总是结伴而行,也许只有当大家能够真实地去面对这些机遇与风险,划定它的边界和围栏,而不是回避它、否定它和阻止它的时候,大家才能真正迎来这个可以被计算的世界,一个由算法定义的世界。”

 

最后,他表示虽对于人工智能的未来抱悲观态度,但在全面考虑人工智能发展的社会风险前提下,仍鼓励拥抱算法时代。

 

马长山教授幽默的话语、生动的案例分析,赢得了与会者的阵阵掌声。

 

04人工智能可能导致未来劳动法服务市场缩水

 

此次讲坛协办方,必发88官网主任李华平律师作为嘉宾参与了提问与讨论。

 

李华平律师作为嘉宾参与了提问与讨论。

 

李华平毕业于华东政法大学,现担任全国律协劳动与社会保障法专业委员会委员,上海市律协劳动法业务研究委员会委员,《劳动报》专家点评律师,《上海法治报》特聘劳动法专栏律师,北大纵横商学院特聘劳动法讲师,并担任了数十家企事业单位的常年法律顾问和专项劳动法律顾问。

 

李华平精通国家和上海市劳动法律法规政策,擅长处理劳动合同纠纷、员工关系管理、保密与竞业限制、规章制度制定与合规管理、企业裁员与改制人员分流方案设计、集体协商谈判、群体性劳资纠纷处理、常年法律顾问等专业法律服务。李华平曾成功代理了400余起劳动争议案件,发表专业案例文章70余篇。他曾为上海市数千家企事业单位数万名领导和人力资源管理人员培训过劳动法律常识以及订立《劳动合同》、撰写《员工手册》等专题培训,获得众多赞誉。

 

作为一名多年从事劳动法相关业务的律师,他对于人工智能对劳动力市场的冲击有着深深的危机感。人工智能的发展必将影响到劳动力市场的发展与整体格局。在人工智能发展日新月异的当下,必发88官网律所与上海社科院法学所的合作搭建学者与律师的沟通桥梁,特别邀请学界人工智能的大咖为律师们开展讲座,普及人工智能相关常识,拓展律师们的常识面,提升律师对未来局势的认知和掌控。

 

针对马长山教授关于人工智能可能带来的极化风险,李华平表示,人工智能的发展必将导致当下很多职业被替代,劳动力市场的真题格局也将发生根本变化。作为律师,他十分关心人工智能对劳动法相关法律服务市场的冲击。

 

马长山教授回应称,人工智能对职业的替代包括两个方面,一是对行业的替代,有些行业可能因人工智能冲击而消失,二是对具体职业的冲击。未来人工智能的发展可能取代不少工作,进而导致未来劳动法服务市场缩水。但他表示,人工智能的发展也可能带来其他一些相关法律问题,如国家如何用税收等调节方式应对人工智能对劳动力市场的冲击。

 

此外,关于将法律代码化是一个立法问题还是翻译问题,马长山教授举了一个美国老人在申请救助时因程序代码翻译错误被机器屡次拒绝的例子,说明了将法律代码化既不是一个立法问题也不是翻译问题,而是一个法律实行程序。

 

上海社科院法学所多名研究生参与了马长山教授的讲坛,众学子在讲坛间向他请教,马长山教授对学生们的诚恳与勤学赞许有加。

 

叶必丰

 

上海社科院法学所所长叶必丰教授,对马长山教授的治学及本次演讲都给予很高评价,并希翼未来有更多拥有计算机相关专业出身的法学家来研究人工智能这个无法回避的问题。彭辉副研究员在讲坛中串联各方,让精湛的学术思想在互动间迸发火花。

 

“人工智能的风险,主要体现在两个方面,一是AI算法具有通用性,二是人工智能的自主意识。”马长山教授在总结人工智能的发展时总结道。当下,如何完成人工智能技术攻关,是对人类头脑和意志的要求;而未来,怎样融洽地与人工智能和睦共处,则是对人类智慧与灵魂的考验。好在大家还有时间,尽管人工智能可能不会等待大家太久。

 

正如马长山教授在演讲结尾所说,无论如何,人类和机器将越来越多地分享同一个世界,因此,“一个更为紧迫的问题是,大家该如何去定义人类与那些亦敌亦友的机器间的关系”。

 

人工智能到底是人类的福音还是潘多拉魔盒,让大家拭目以待!

XML 地图 | Sitemap 地图