人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
太惋惜!胡鑫宇自缢身亡,青少年心理健康如何呵护?****** 文/赵斌 2023年2月2日,江西省、市、县联合工作专班在上饶市铅山县召开新闻发布会,通报胡鑫宇系自缢身亡。发布会上还公布,胡鑫宇2022年9月到致远中学就读后,因学习成绩不佳造成心理落差,加之人际关系、青春期冲动带来的压力,造成了他失踪前心理状态失衡,有明确的厌世表现和轻生倾向。 如何应对孩子的厌学、厌世情绪,呵护青少年心理健康? 看懂这些预警可以挽救孩子! 北京同仁医院急诊科副主任医师、国家二级心理咨询师岳春河在接受中新社国是直通车采访时说,“小孩子把活啊、死了的挂嘴上”“哭着打电话说不想上学”“挺内向的孩子,好像突然开朗了,甚至有些聒噪”这些往往不被重视的现象,极有可能是孩子走在极度危险边缘的预警,甚至是向家长发来的最后求救。 上海长征医院心理科副教授、副主任医师、中国医师协会心身医学分会青年委员潘霄认为,要避免悲剧发生,需要了解青少年在作出极端行为前的四个阶段。 潘霄称,这四个阶段分别为情绪低落期、求援窗口期、绝望期和绝望之后的实施期。 情绪低落期源于父母离婚等家庭问题、遭受霸凌等学校人际关系问题、成绩下降等学习问题导致的情绪低落。这一状态如果长时间持续,会非常痛苦,进而产生“活着没意思”等想法,但这一时期是宝贵的援助窗口期,青少年会有求援、呼吁关注的表现。比如和朋友说、向家长或老师求助、寻求心理咨询等。也会出现自杀前的言行征兆。 一旦错过这个时期,青少年就会从求援窗口期进入绝望期,很难通过心理咨询等一般手段拉回来。进入绝望期,原则上必须从医学角度根据实际情况给出医学治疗方案,比如住院、服药治疗等,才能有较好的效果。 他表示,青少年自杀前的预警可从两个方面去发现和判断:言语方面和行为方面。 言语方面: 1、暗示。如,没我更好、没有我会怎样、活着或人生好麻烦、活着没有价值和意义等消极厌世类情绪语言; 2、明示。如,不想活了、想死了、我死了你不要后悔、再这样我就去死等明确地表达出死的意愿。即便是孩子偶发性无心说出,也要引起注意,及时做心理评估。 行为方面: 1、抑郁表现。出现“三低”,即情绪低落、思维迟缓、行为减少; 2、突然变化。本来内向或外向,性格突然转变; 3、突然离家出走,不告而别; 4、有自伤、自残行为,比如用刀划自己手臂,拿头撞墙等表现; 5、孩子突然无端出现不舒服。尤其是内向敏感型青少年,不愿意沟通,潜意识压抑负能量导致头疼等身体不舒服; 6、厌学,不做作业,成绩快速下降。 潘霄表示,青少年言行有上述特点就应该引起重视,如果同时具备多个表现,要高度警惕青少年已患有严重的心理健康问题。 如何呵护孩子心理健康? 潘霄认为,发现青少年有轻微的心理健康问题,或者难以解决的情绪问题,首先要找到学校的心理老师、心理咨询工作室或者医疗机构做评估,以确定问题的程度,进而获得解决方案。 问题严重时,这些机构的专业人士会建议家长及时送医。经过多年发展,中国医疗界在治疗心理、精神方面的问题和疾病的水平值得信赖。 岳春河认为,日常教育中,家长的有效沟通和陪伴对青少年心理健康至关重要。家长应尽量少用成年人的思维去干预甚至控制孩子,要站在孩子的角度与之共情,了解孩子的内心。此外,还要注意帮助引导孩子建立自我评估体系,让孩子学会平衡内在与外在评价体系,从根本上减轻外界对孩子心理的负面影响,避免产生自我否认感。 岳春河举例,如果把夫妻比喻成各自是一个圆,这两个圆重叠的地方就是孩子心理空间的天地。如果家长离婚,一定注意不要互相否定,这种否定即便不当孩子面说,孩子也能感受到,会给孩子的心理带来负面影响。 潘霄认为,学校配备的专业心理老师一般会按要求教孩子怎么处理负面情绪以及心理问题,包括学业压力、人际冲突、家庭关系的处理等。家长也要注意青少年的逆商培养(AQ),学会如何处理挫折和重振信心。可以多参加有竞争性、有输赢的体育活动、军旅主题的夏令营,一些培养抗逆力的户外活动,要让孩子有抗逆训练,学会面对挫折感。 潘霄还提醒,要避免孩子接触一些不良引导的游戏和漫画。家长也要注意加强青少年心理建设的科普学习。同时媒体尤其是自媒体不要渲染涉及自杀的名人、舆情事件,给社会营造一个良好的舆论氛围。 全社会应形成合力 呵护青少年心理健康,老师和家长的专业知识储备至关重要,但仅凭这些可能还不够。 北京市二十一世纪幼儿园总园长朱敏在接受中新社国是直通车采访时建议,应由政府主导、部门协同,构建学校、家庭和社会三位一体的防范青少年自杀屏障。例如,可由政府部门牵头,组织专家和专业教师一起研发生命教育课程;加强家校沟通,及时发现青少年的消极情绪并有效干预,确保自杀预防工作的正常运转;构建遍布全国的心理危机社会支持网络和自杀干预网络,建立自杀预防专门机构,如心理诊所、心理热线等。 朱敏认为,通过借鉴美国、英国等在青少年心理健康方面的成功经验,可考虑以心理健康专业的高校、研究机构为专业主导,与学校尤其是经济欠发达地区、留守儿童相对较多地区的学校对接,针对青少年相关心理问题给出解决方案,再结合实际案例反馈到研究当中,不断形成具体的标准、做法、经验以更好指导实践。 (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |