难以破解的AI“黑匣子”

说到黑匣子,许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而,在人工智能(AI)领域,黑匣子同样是个不可忽视的重要术语。西班牙《国家报》指出,当AI神经网络运行时,即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学,而是AI算法,特别是那些基于深度学习、模仿神经元之间连...

世界顶尖科学家协会奖得主:算法带有偏见,需关注公平性与多元化

乔恩·克莱因伯格表示，有效利用机器学习和人工智能技术，能让当前以人工智能作为基础的互联网生态体系更为健全。当前，克莱因伯格致力于探索如何定义及实现算法公平，尤其是在算法辅助人类做决定的场景。他表示，与人类决策者相比，算法没有直接动机表现出偏见，尽管如此，算法预测中还是存在许多潜在的偏见来源。但是，良好...

人工智能对齐:不仅是个科学和技术问题

三联生活周刊:我看国外报道里有专家也提出人工智能对齐关注的长期一致性风险,与如今的非超级人工智能带来的更直接的风险(如失业、偏见、隐私和虚假信息)是两种不同的风险,并认为专注于一致性的专家常常会忽视了我们今天已经遇到的实际问题,转而沉迷于未来可能永远不会出现的问题。你对此有何评价?杨耀东:关于人工智能...

当教育插上人工智能的翅膀

例如,数据隐私和安全、教育资源不平等、过度依赖AI、人际交往能力减弱、缺乏情感支持、内容质量和准确性、人工智能偏见问题等。例如,如果回答是错误的,可能造成“谎言重复一千遍就变成真理”的情况。要避免这种现象,建议人们从多个来源获取信息。为了降低这些风险,需要在技术、政策、教育等多个层面探索解决之道,或进行规避...

图灵奖得主约瑟夫·希发基思:讨论AI风险时,需区分是人为因素还是...

但假如人工智能突然把控制权交了出来，那么人类就可能犯下严重错误，因为AI知道该怎么做，人类未必。所以克莱因伯格认为，“在做人类判断和算法知识判断的时候，都要考虑风险偏见问题。”在设计时既要追求算法的强大，也要注意，事态不能发展到失控的地步。澎湃新闻记者喻琰(本文来自澎湃新闻，更多原创资讯请下载“...

人工智能的“偏见”能否消除

随着人工智能（AI）技术不断发展，其潜在问题也日益凸显(www.e993.com)2024年11月4日。ChatGPT等AI大模型频频暴露出的偏见和歧视倾向，正是这一问题的缩影。AI也有性别歧视联合国妇女署官网5月22日报告指出，美国加州伯克利大学哈斯商学院一项研究，分析了不同行业的133个AI系统。结果显示，约44%的系统表现出性别刻板印象，25%同时表现出性别和...

联合国报告:生成式人工智能加剧性别偏见

新华社巴黎3月7日电(记者徐永春)国际妇女节前夕,联合国教科文组织7日发布研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架,同时私营企业应对偏见问题持续监测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)...

联合国教科文组织报告称生成式人工智能加剧性别偏见

中新网巴黎3月7日电联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层...

人工智能的原理是什么?

强化学习。依靠人工智能与环境的交互来从错误中学习并获取知识。深度学习模型可以通过多层转换数据。它适合更复杂的任务。您选择的模型将取决于几个因素,包括:您拥有的数据量等待训练的时间您的总资源您拥有的数据类型您的总预算4.训练模型当您预处理数据并选择模型时,就进入了训练阶段。

读书| 人工智能时代教什么,怎么学?

对于中国人特别纠结的中考、高考这样的标准化测试方式,可汗认为,人工智能的发展也提供了改善的希望。人工智能可以根据每个学生的学习进度和风格提供定制化的评价,可以通过算法和数据分析,对学生的学习全过程进行多样化的评价,而不是一考定终身。人工智能还有助于减少人为偏见,提供更公正的评价。