清华大学教授黄民烈:如何把大模型“调教”成我们放心的样子
黄民烈:这可能就是本身训练数据的bias问题,训练数据有偏置,比如训练数据有大量的白人,那用户说我需要一个黑人头像,它也会输出一个白人,这是机器学习本身的一些数据偏置、归纳的偏置等导致的。InfoQ:论文提出的安全提示优化方法DRO是不是已经有相关应用了?黄民烈:没有,现在还只是科研的阶段。它是一个算法,能...
清华大学教授黄民烈:AIGC时代保障数据安全要靠算法而不是人
在4月27日下午在“2024中关村论坛数据安全治理与发展论坛”上,清华大学计算机科学与技术系教授、人工智能研究院基础模型研究中心副主任黄民烈教授表示,与过去传统的数字经济时代不同,人工智能(AI)时代尤其是生成式人工智能(AIGC)的出现,让人类所面临的数据安全问题已有很大的不同,而进行风险管控的方法也有根本的...
聚焦2024中关村论坛年会|清华大学学者黄民烈:解决生成式人工智能...
4月26日,在2024中关村论坛年会“数据安全治理与发展论坛”上,清华大学计算机科学与技术系教授、人工智能研究院基础模型研究中心副主任黄民烈说,“在生成式人工智能时代,我们在安全层面面临的是不断组合和创造新的数据安全风险问题,彻底解决这种风险需要算法和工具支撑,而不是靠人,或者靠一些静态的方法去做一些相对...
2024中关村论坛年会|清华黄民烈:彻底解决生成式AI时代的数据安全...
北京商报讯(记者魏蔚)4月26日,在2024中关村论坛“数据安全治理与发展论坛”上,清华大学计算机科学与技术系教授黄民烈表示,在生成式人工智能时代,我们面临的是不断组合、创造新的数据安全风险的问题,要彻底解决这种风险,需要算法和工具的支撑,而不是靠人,或者靠一些静态的方法去做一些相对固定的检测。
“智周万物”——2024ChinaJoy AIGC大会圆满召开
黄民烈教授展望未来,认为AGI时代的超级助手将融合工具智能和情绪智能,实现多模态交互和情绪价值提供,颠覆未来交付形式。清华大学教授、清华大学基础模型研究中心副主任黄民烈微软大中华区副总裁、数字原生事业部总经理田灼展开以“微软AI平台引领数字娱乐全球创新”为主题的主旨演讲。首先,他展示了全球AI应用增长的...
清华90后,正排队宣布融资_澎湃号·湃客_澎湃新闻-The Paper
薪火相传,正如我们还看到这样一幕:在清华系创业项目中,频繁出现“师生搭档”(www.e993.com)2024年10月18日。唐杰教授、孙茂松教授、刘知远教授、周伯文教授、黄民烈教授、孙富春教授……他们出现在创业公司中,带领学生走过创业“最初一公里”。为何是清华?眼下国内AI大模型创业浪潮席卷,清华系身影随处可见。而梳理下来惊讶发现,清华系AI创业者中几乎...
数据治理既要“装刹车”又要“上路跑”——专家学者共商数据安全...
清华大学计算机科学与技术系教授、人工智能研究院基础模型研究中心副主任黄民烈指出,过去做数据处理时,只需把一些不好的、有害的数据过滤掉,清洗干净就可以了。但生成式人工智能是一种生成式的模型,它会通过训练去组合,去生成新的内容,这些新内容可能在过去的语料里根本没有出现过,但它依然是有害的。“在生成式人工...
清华系大模型蛰伏五周年:1位先锋串起半部创业史,3个校友争“一哥”
2021年11月,黄民烈创立了聆心智能;2022年3月,孙茂松的博士生岂凡超创立了深言科技;2022年8月,刘知远创立了面壁智能,专注于法律领域;2023年,同样师从孙茂松的朱军建立了生数科技。此时,大模型创业团队再次面临一个困局:找不到大模型与市场的连接点,愿意吃螃蟹的企业并不多,甚至不知道怎样调度大模型...
已投资十多家创业公司,智谱AI布局大模型生态圈
2021年黄民烈教授创办聆心智能并担任首席科学家,聆心智能联合创始人,智谱AI参与了该项目此前多轮融资。此外,幂律智能创始人、CEO涂存超,清程极智联合创始人、董事长、CEO汤雄超,基流科技创始人、CEO胡效赫均来自清华大学计算机系。清华系AI公司对学术、技术的共同追求,对大模型原始创新的共同探索,让大模型生态正...
三个清华校友,争抢大模型一哥
2021年11月,黄民烈创立了聆心智能;2022年3月,孙茂松的博士生岂凡超创立了深言科技;2022年8月,刘知远创立了面壁智能,专注于法律领域;2023年,同样师从孙茂松的朱军建立了生数科技。此时,大模型创业团队再次面临一个困局:找不到大模型与市场的连接点,愿意吃螃蟹的企业并不多,甚至不知道怎样调度大模型...