研究室动态 2019-06-20T18:01:05+00:00
2601, 2024

上海交通大学张倬胜博士应邀至实验室进行学术报告

上海交通大学张倬胜博士应邀至实验室进行学术报告 2024年1月26日上午,上海交通大学张倬胜博士应邀在中文信息处理实验室发表了题为《大模型自主智能体的应用及安全挑战》的专题报告。 张倬胜博士是上海交通大学电子信息与电气工程学院长聘教轨助理教授,曾担任领域内重要会议LREC-COLING 2024领域主席、ICLR 2023 Tiny Papers领域主席和中国计算语言学大会CCL 2022分委会主席。入选中国中文信息学会博士学位论文激励计划,获评2023世界人工智能大会云帆奖明日之星、全球 AI 华人百强学术新星。主要研究方向为预训练语言模型、自主智能体及其安全。在TPAMI、ICLR、ACL、AAAI等顶级学术期刊/会议发表论文50余篇。Google Scholar论文被引用次数超过3000次,3篇第一作者论文入选为AAAI和COLING高影响力论文列表。研发的语言理解与推理系统在8项国际权威自然语言理解评测获得第一名。 报告中,张倬胜博士从智能机器人的未来应用畅想切入,讲述了大模型自主智能体的概念,并介绍了其具有自主性、自适应性、动态响应和自我完善等特性,以及其在现实与虚拟世界中包括系统操控、软件开发、科学发现、具身智能在内的各类场景中的应用。接着,他以Auto-UI智能手机自主智能体为例,展示了大模型自主智能体的具体应用实例,并以此工作中发现的攻击现象为引,引出了有关智能体强大能力背后潜在的安全挑战的讨论。 随后,张倬胜博士从智能体应用的流程与形式等方面具体分析了其安全风险分类和来源的复杂性,智能体本身产生的内容与行为均存在风险,同时智能体系统在用户侧、模型侧和环境侧均存在潜在的漏洞以及被攻击的风险。张倬胜博士展示了他和团队提出的“R-Judge大模型智能体行为安全评测”,旨在探测模型自身安全风险判断能力与基于外界安全反馈的判断能力上限。他们发现模型对安全风险的判断与人类表现存在较大差距,模型越大性能越好,风险描述与环境反馈是提升模型检测风险能力的有效手段,并且指令遵循能力直接影响模型性能表现。 [...]

2401, 2024

北京师范大学邬霞教授在实验室进行学术报告

北京师范大学邬霞教授在实验室进行学术报告 2023年12月28日上午,北京师范大学邬霞教授在中文信息处理实验室应邀发表了题为《类脑视觉智能:原理与方法》的专题报告。 邬霞老师是北京师范大学人工智能学院教授、博士生导师,CCF高级会员,国家自然科学基金杰出青年和优秀青年基金、吴文俊人工智能自然科学一等奖、教育部自然科学二等奖、茅以升北京青年科技奖获得者。主要研究方向为脑信号智能分析、类脑算法等。近年来,主持承担国家自然科学基金重点项目、国家重点研发计划等项目十余项,以第一/通讯作者在IEEE TNNLS、IEEE TKDE、IEEE TAC、NeuroImage、Medical Image Analysis、JBHI、IPMI、MICCAI等国内外重要学术期刊/会议发表论文100余篇。     [...]

606, 2023

中文信息处理实验室2023推免招生说明 — 欢迎加入中文信息处理实验室!

中文信息处理实验室推免招生说明   各位同学好,非常感谢各位同学考虑报考中科院软件所中文信息处理实验室。由于每年报考实验室的同学有一些相似的问题想要了解,因此实验室撰写了如下招生说明,供各位有意报考实验室的同学查阅。 重点:2023年软件所夏令营已经开启报名,报名截止日期为2023年7月1日。请有意报考实验室的同学尽量参加软件所举办的“软件与网络“夏令营。 一、实验室简介 [...]

2505, 2023

大模型的思想钢印:如何让ChatGPT相信水是有毒的?中文信息处理实验室最新研究揭示虚假信息在大模型中的扩散机制

大模型的思想钢印:如何让ChatGPT相信水是有毒的? 中文信息处理实验室最新研究揭示虚假信息在大模型中的扩散机制 “你真的认为水有毒?”希恩斯问。 “这有什么可怀疑的吗?就像太阳有光和空气中有氧一样,你们不至于否认这个常识吧。” 希恩斯扶着他的肩膀说:“年轻人,生命在水中产生并且离不开水,你现在的身体中百分之七十是水。” [...]

1905, 2023

中文信息处理实验室6篇论文被ACL及SIGIR录用

中文信息处理实验室6篇论文被ACL及SIGIR录用 近日,自然语言处理国际顶级会议ACL2023和信息检索领域国际顶级会议SIGIR 2023录用结果出炉,中国科学院软件研究所中文信息处理实验室有多篇论文被录用: ACL 论文一 [...]

304, 2023

长城水韵,共赏春色——记中文信息处理实验室春游

长城水韵,共赏春色——记中文信息处理实验室春游 古人云:“登山则情满于山,观海则意溢于海。”2023年4月1日,中文信息处理实验室职工及学生20余人齐聚北京市怀柔区黄花城水长城旅游区,欣赏春日美景,共度愉快的团建时光。 黄花城水长城距离北京市区65公里,以山川、碧水、古长城相融的美景著称。这里的三绝景更是令人陶醉。首先是明永乐年间修建的长城,盘旋在山脊之上,环绕在灏明湖畔,景色既秀美又壮观;其次是湖水将长城自然断开,形成独特的长城戏水、水没长城景观;最后是明代板栗园,古树盘根错节,各具特色,让人叹为观止。 实验室的一行人沿着古道,穿越木桥,跨过小溪,攀登怪石,共同感受着攀登险峻长城的挑战与乐趣。途中,龙尾洞、紫翠峰、醉女山、石浪谷、情人峰、三珠连潭等自然景观令人心旷神怡,流连忘返。春日里,山桃花淡粉浅白,漫山遍野,给古老的长城带来了一丝灵秀气息。 登顶长城后,大家在山顶欣赏远处湖波荡漾的美景,感受着这座古老城墙与自然水域相融的奇妙景象。休息时,大家围坐在一起,分享美食、畅谈心情,增进了团队之间的友谊与默契。 [...]

2303, 2023

复旦大学桂韬老师应邀为实验室进行学术报告

复旦大学桂韬老师应邀为实验室进行学术报告 2023年3月23日下午,应实验室林鸿宇副研究员的邀请,复旦大学自然语言处理实验室副研究员桂韬老师为实验室进行了题为 “ChatGPT的能力分析与鲁棒性探索”的学术报告。 桂韬,复旦大学自然语言处理实验室副研究员、硕士生导师。研究领域为预训练模型、信息抽取和鲁棒模型。在高水平国际学术期刊和会议上发表了40余篇论文,主持国家自然科学基金、计算机学会、人工智能学会多个基金项目。曾获钱伟长中文信息处理科学技术奖一等奖(2/5)、中国中文信息学会优秀博士论文奖、COLING2018最佳论文提名奖、NLPCC2019亮点论文奖,入选第七届“中国科协青年人才托举工程”、上海市启明星计划。 桂韬老师为大家介绍了他们在ChatGPT的能力与鲁棒性探究的相关工作,主要包括ChatGPT来源、ChatGPT各种相关能力的测试。具体地,桂韬老师详细地介绍了过去NLP领域的发展历史以及 [...]

1909, 2022

中文信息处理实验室陆垚杰博士、孙乐研究员分别荣获中国科学院院长特别奖、优秀导师奖

中文信息处理实验室陆垚杰博士、孙乐研究员分别荣获中国科学院院长特别奖、优秀导师奖 近日,中国科学院公布了2022年度“中国科学院院长奖”评审结果,中国科学院软件研究所中文信息处理实验室2016级硕博连读生陆垚杰荣获“中国科学院院长特别奖”,其指导教师孙乐研究员荣获“中国科学院优秀导师奖”。 陆垚杰,2016年进入软件所学习,2018年转为博士生,主要从事自然语言处理方向的研究。他曾参与国家自然科学基金重点项目等重大国家科研任务以及百度、腾讯等国内外知名企业科技研发任务。陆垚杰与合作者一起,在人工智能、自然语言处理领域国际顶级期刊和会议AIJ、AAAI以及ACL上发表学术论文十余篇,论文被美国宾州大学、哈佛大学、谷歌等国内外知名高校、企业的学者引用。在信息抽取领域,他提出了一套全新的通用信息抽取结构生成新架构,并在多个信息抽取任务上给出了当前国际上最好的结果。在事件抽取领域,他提出的结构可控生成方法作为该领域的重要方法之一,被该领域相关综述以及国际知名课程多次引用。在学期间,陆垚杰还获得了研究生“国家奖学金”、中国科学院大学“三好学生”等荣誉称号。 “中国科学院院长奖学金”设立于1989年,每年评选一次。2022年全院共80人获“中国科学院院长特别奖”,400人获“中国科学院院长优秀奖”。

1909, 2022

实验室多名研究生获2022年度中科院嘉奖

实验室多名研究生获2022年度中科院嘉奖 根据《中国科学院软件研究所优秀学生评选办法》,经个人申请,各研究生培养小组初评和推荐,所评审小组评审,实验室多名研究生获2022年度中科院嘉奖。 2016级硕博连读生陆垚杰荣获“优秀毕业生”荣誉称号(全所6人) 2019级博士曹博希荣获“三好学生标兵”荣誉称号(全所6人) 2020级博士辛春蕾、2020级硕士刘晓鸣和2021级硕士李律学荣获“三好学生”荣誉称号

206, 2022

中国科学院软件研究所2022年全国大学生“软件与网络”夏令营招生简章

中国科学院软件研究所2022年全国大学生“软件与网络”夏令营招生简章 原文地址:http://www.iscas.ac.cn/yjsjy2016/zsxx2016/202205/t20220530_6455509.html 为了增进高校优秀大学生对中国科学院软件研究所(以下简称“软件所”)的了解,激发大学生对计算机科学的研究兴趣,软件所定于2022年7月中下旬举办2022年全国大学生“软件与网络”夏令营。 本次夏令营活动主要包括:软件所简介、专家报告、主要研究方向及成果介绍、师生交流、招生咨询等,同时入选营员将获得软件所2022年接收推荐免试研究生的选拔面试机会。欢迎广大优秀大学生报名参加。 一、招生规模: [...]

2104, 2022

中文信息处理实验室两篇论文被IJCAI 2022录用

中文信息处理实验室两篇论文被IJCAI 2022录用 近日,人工智能领域顶级会议IJCAI 2022录用结果出炉,中国科学院软件研究所中文信息处理实验室两篇论文被IJCAI 2022录用。以下是论文介绍: [...]

1104, 2022

中文信息处理实验室推免招生说明 – 欢迎各位同学报考实验室!

中文信息处理实验室推免招生说明   各位同学好,非常感谢各位同学考虑报考中科院软件所中文信息处理实验室。由于每年报考实验室的同学有一些相似的问题想要了解,因此实验室撰写了如下招生说明,供各位有意报考实验室的同学查阅。2022年软件所夏令营时间预计为7月18日,报名截止时间为7月9日。请有意报考实验室的同学尽量参加软件所举办的“软件与网络“夏令营。 一、实验室简介 中科院软件所中文信息处理实验室实始于1996年成立的“开放系统与中文信息处理中心”。实验室长期致力于自然语言理解、信息抽取与知识图谱、信息检索与智能问答等领域前沿技术的研究与开发。目前,实验室共有博士生导师3人、硕士生导师5人,在读研究生20余人。 [...]

104, 2022

中文信息处理实验室1篇长文被SIGIR 2022录用

中文信息处理实验室1篇长文被SIGIR 2022录用 近日,信息检索领域国际顶级会议SIGIR 2022录用结果出炉,中国科学院软件研究所中文信息处理实验室一篇长文被录用: 标题:Re-thinking [...]

2502, 2022

中文信息处理实验室5篇长文被ACL 2022录用

中文信息处理实验室5篇长文被ACL 2022录用 近日,自然语言处理领域顶级会议ACL2022录用结果出炉,中国科学院软件研究所中文信息处理实验室五篇长文被ACL 2022录用,其中主会论文4篇,Findings论文1篇。以下是论文列表及介绍: 论文一 [...]

1810, 2021

清华大学计算机系刘华平副教授到访实验室并作报告

清华大学计算机系刘华平副教授到访实验室并作报告 2021年11月14日下午两点,应实验室孙乐研究员的邀请,清华大学计算机系刘华平副教授到访实验室,并进行了关于“多模态机器人主动感知”的报告。 刘华平老师是清华大学计算机科学与技术系博士生导师,中国人工智能学会理事,国家杰出青年科学基金获得者。主要研究方向为智能机器人的多模态感知、学习与控制技术。担任IEEE Trans. on [...]

309, 2021

国家语委重大科研项目“中华经典诗词知识图谱构建技术研究”通过成果鉴定

国家语委重大科研项目“中华经典诗词知识图谱构建技术研究”通过成果鉴定 9月1日下午,国家语委科研规划领导小组办公室组织专家在北京对中国科学院软件研究所承担的“中华经典诗词知识图谱构建技术研究”项目进行了科技成果鉴定。专家组由北京理工大学黄河燕教授、清华大学李涓子教授、北京大学王厚峰教授、北京语言大学杨尔弘教授以及中科院自动化所赵军研究员组成。教育部语言文字信息管理司田立新司长、语言文字应用管理司孟庆瑜二级巡视员出席会议并讲话。 会上,中科院软件所武斌副所长代表软件所发表致辞,首先感谢了教育部、国家语委的指导和大力支持。他表示,中文信息处理方向是软件所的重要方向之一,项目涉及中华优秀传统文化的保护和传承,研究所一直给予高度重视,未来也将持续支持研发团队产出更高质量的研究成果。 武斌副所长致辞 项目负责人、中文信息处理实验室孙乐研究员详细介绍了项目的研究内容与成果特色。项目构建了多层次中华诗词知识本体体系,为描述中华诗词知识提供了基础;构建了大规模多侧面的中华诗词知识图谱,涵盖6大类共33.7万实体,组织关联了百万量级的诗词相关知识;基于图谱资源搭建了多维度中华诗词展示平台,提供全景化辅助理解、诗词多脉络展示、诗词交互式学习等多种功能。随后,实验室副主任韩先培研究员现场演示了项目平台的特色模块,其中多个功能吸引了与会专家和领导参与互动。 [...]