生成式人工智能飞速发展,安全问题需重点关注

“随着技术不断更新迭代，大模型的应用门槛持续降低，无处不在的数据和算法在推动发展的同时，也带来了新的挑战，比如个人数据泄露、虚假新闻、误用滥用等安全风险。”8月29日，在2024年中国网络文明大会人工智能分论坛上，中央网信办、国家网信办总工程师孙蔚敏说。生成式人工智能正在快速发展，与此同时，相关的安全...

王沛霖:我国人工智能发展仍面临产业链不平衡等问题

不过，王沛霖认为，我国人工智能发展依旧面临许多的问题。首先，产业链不平衡，核心技术自主创新不足，存在“头重脚轻”的产业结构。在应用层发展较为迅速，但在基础层和关键技术层面的研发和产业化能力相对较弱，缺乏具有国际竞争力的核心技术和产品；其次，标准化和规范化程度不高。行业缺乏统一的标准体系，不仅影响...

《人工智能法(学者建议稿)》发布,权益保障、产业发展为当前法学界...

纵观本轮人工智能发展浪潮中社会关注的焦点问题,除技术发展问题外,个人信息保护、AI是否会取代人类、知识产权保护等问题,均与人在和AI相处中的权益保护息息相关。本次研讨会上,多位与会专家在发言中也提到,当前对AI的治理需围绕人类在数字社会的基本权益保障展开,强调科技伦理对技术发展中衍生出的各类问题的预防和抑制...

生成式人工智能在美军指挥控制领域的发展现状

????1.机器幻觉问题海军部的《生成式人工智能和大语言模型使用指南》指出这类人工智能工具目前缺乏足够的可靠性,因为其会出现机器幻觉问题,即向用户提供看似真实但其实是完全错误和虚构的反馈内容。此外,模型产生的认知偏差、机器幻觉,训练人工智能模型的数据如果受到人为影响使得训练结果产生偏差,这也是美军成立“利马...

“AI发展现状反思”笔谈|处理好生成式人工智能的意识形态风险

一、生成式人工智能的意识形态属性关于科学技术与意识形态问题的研究,并不是由于人工智能的快速发展才兴起的。事实上,早在20世纪五六十年代学界就已开始对科学技术与意识形态问题进行研究,马尔库塞(HerbertMarcuse)、哈贝马斯(JtirgenHabermas)是其中的重要代表。马尔库塞认为,科学技术具有意识形态的性质,或者说已经成为一...

人工智能赋能农业现代化发展的思考

人工智能(ArtificialIntelligence,AI)为农业现代化发展注入了强大的科技动力,正深刻改变农业的科技创新、生产、销售及经营组织方式,是推动农业新质生产力打造与高质量、可持续发展的重要手段(www.e993.com)2024年11月23日。一、制约农业产业现代化发展的主要问题目前,我国农业现代化发展存在组织化程度不高、科技与创新能力欠缺、数字化体系建设不...

【专家观点】人工智能,不发展就是最大的不安全!

“人工智能是先进生产力,它正在以前所未有的深度、广度和速度,进入我们的生产和生活。它还不成熟,存在着固有的缺陷,存在着被滥用的可能,需要对它进行治理,但这不能成为阻碍它发展的理由——对于人工智能,不发展就是最大的不安全。”中国新一代人工智能发展战略研究院执行院长龚克在国家科技传播中心讲坛上发表如上观...

人工智能发展驶入快车道 任勇:技术创新、人才培养是关键

任勇指出,在人工智能发展的过程中,会出现伦理和社会问题。例如在隐私和数据安全方面,人们担心个人数据可能被滥用,在个人信息被窃取后,用于定向广告等。他还补充说,人工智能会引发责任、透明度问题以及失业焦虑,“自动化和机器人技术的进步可能会导致一些工作的自动化,从而引发失业和职业转型的问题。”...

伦理学视域下的人工智能发展

第一是安全问题,即人工智能的强大力量既可能改善人类生活,也可能危及社会发展和人类安全。第二是正义问题,即人工智能在能够提供充裕财富和便利服务的同时,有可能加剧分配不公和群体歧视等社会正义问题。第三是人的发展问题,即人工智能对人类劳动的取代以及对人类能力的延伸增强,有可能阻碍人类能力的全面发展。第四是...

...模型:提倡百家争鸣,过早地锁定技术路线会阻碍人工智能的发展

在人工智能发展历程中,数据和模型哪一个更重要,这个问题一直存在争议。这两年大语言模型发展势头很猛,争议也更加激烈。谷歌大脑的创始人吴恩达认为,在过去十年中,人工智能最大的转变是向深度学习的转变,神经网络架构问题已经基本解决,今后十年会转向以数据为中心。现在更有效的方法是固定神经网络架构,寻找改善数据的方法...