计算机科学家谈AI:前期算法设计很重要,应确保各层面公平

如今,随着技术的日新月异,有关算法决策在公平性、透明度和隐私问题上的担忧与日俱增,对于算法偏见会否进一步扩大社会差距的讨论亦热度不减。“算法自身不会产生偏见,是设计者使用的数据中往往带有普遍存在于社会中的偏见。”克莱因伯格向南都记者指出,与之相反的是,算法在某种程度上其实给了人们检测偏见的机会,而...

重磅:2024 年人工智能指数报告

人工智能的公平性强调开发公平的系统,避免长期存在对任何个人或群体的偏见或歧视。在全球负责任人工智能现状调查中,29%的组织认为公平风险与其人工智能采用战略相关。就地区而言,欧洲组织(34%)报告这种风险最频繁,而最不经常报告这种风险的是北美组织(20%)。图11:按地区分列的人工智能相关公平性措施的采用情况经济...

数学:人工智能背后的智慧引擎

3.2可解释性与公平性AI系统的可解释性和公平性是当前研究的热点之一。数学方法为理解和评估AI模型的决策过程提供了有力工具。通过数学分析和模型简化,可以揭示AI模型内部的工作机制,提高模型的可解释性。同时,利用数学方法构建公平性约束,可以确保AI系统在不同群体间保持公正无偏的决策,减少偏见和歧视。

无偏见的人工智能:公平算法的策略

这样,人工智能系统能够在大量的例子上进行训练,这将防止这种系统使现有的偏见和歧视永久化。为了确保模型不会延续某些偏见,平衡传统上受到歧视的群体的数据集尤为重要。基于偏见的算法还考虑到缓和治疗患者、工作人员和其他少数群体的数据,并通过促进决策的公平性来解决这些差异。为了培训数据的公平性和多样性,组织必...

北大孟涓涓:人工智能的采用可降低人类偏见、促进社会公平

中国经济新闻网讯(毛晶慧)5月14日,“北大光华学者沙龙”第2期在北京大学光华管理学院举行,主题为“人工智能的机遇与挑战”。北京大学光华管理学院应用经济系教授、北京大学行为科学与政策干预研究中心主任孟涓涓在会上以《人机交互:人工智能对人类行为和社会公平的影响》为主题进行了分享。

英国文化教育协会发布《人工智能与英语教学》报告:亚洲地区是AI...

英国文化教育协会发布《人工智能与英语教学》报告：亚洲地区是AI应用的主力军，需要完善数据治理、关注公平性经济观察网记者李晓丹1月5日，英国文化教育协会发布的《人工智能与英语教学：为未来做准备》报告，对人工智能（ArtificialIntelligence，简称AI）技术在英语教学中的应用现状及潜在影响进行分析总结，报告显示...

苹果回应争议资源训练AI:探寻技术公平性与包容性的平衡点

首先，由于AI技术的复杂性和多样性，很难保证所有AI应用都能完全避免偏见和歧视。例如，在某些场景下，AI模型可能会因为数据偏见而导致对特定群体的不公平待遇。此外，AI技术的快速发展也可能对弱势群体产生负面影响，如加剧社会不平等、侵犯个人隐私等。针对这些问题，业界和社会各界纷纷提出了建议和解决方案。首先，应该...

人工智能的“偏见”能否消除

然而,AI的底层智力在很大程度上取决于其数据源的品质,这些数据可能源于标准不一致的历史数据,也可能源于设计者的个人偏好。数据搜集存在很多技术上的不完善,由此训练出来的AI可能充满智慧、才华和实用性,也可能包含仇恨、偏见和抱怨,进一步反映并延续人类社会中的问题。如果人们不解决社会中的歧视和偏见问题,AI很可能在...

生成式人工智能或将加剧性别偏见

因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。来源：科技日报...

AI招聘官惹争议:号称公平却成最大“歧视者”,人类求职者如何自保?

AI在招聘领域的应用承诺了更高的客观性和效率,通过消除人为偏见,增强决策制定中的公平性和一致性。但实际情况可能并非如此。研究发现,AI在招聘中可能会微妙地,有时甚至是明显地加剧偏见。人力资源(HR)专业人员的参与可能加剧而非缓解这些影响,这挑战了我们对人工监督能够控制和调节AI的信念。