AI是企业的朋友还是敌人?集成genAI的挑战与机遇

互联网消息·企业级IT 6月13日 SolarWinds公司最新发布的2024年IT趋势报告《AI:朋友还是敌人?》显示,尽管90%的IT专业人士希望在其组织中

互联网消息·企业级IT 6月13日 SolarWinds公司最新发布的2024年IT趋势报告《AI:朋友还是敌人?》显示,尽管90%的IT专业人士希望在其组织中实施生成性人工智能(genAI),但超过一半的人对集成、安全和隐私问题表示担忧。

GenAI_loading_shutterstock_Berit-Kessler.jpg

在对大约7000名IT专业人士进行的在线调查中,SolarWinds公司发现,尽管几乎所有受访者都渴望采用genAI和其他基于AI的工具,但不到一半的受访者认为他们的基础设施能够适应这项新技术。只有43%的受访者表示他们相信公司的数据库能够满足AI增加的需求,而更少的人(38%)信任用于开发这项技术的数据或训练的质量。

报告指出,隐私和安全问题被认为是genAI集成的主要障碍,IT专业人士特别呼吁增加政府监管来解决安全(72%)和隐私(64%)问题。当被问及AI的挑战时,41%的受访者表示他们有过负面经历;其中,隐私问题(48%)和安全风险(43%)是最常被提及的。

超过一半的受访者还认为,政府监管应该在打击虚假信息方面发挥作用。报告中提到:“为了确保AI的成功和安全采用,IT专业人士认识到,组织必须制定关于道德、数据隐私和合规性的全面政策,这指向了道德考虑和对工作被取代的担忧,作为AI采用的其他重要障碍。”

SolarWinds报告还发现,超过三分之一的组织仍然缺乏指导适当genAI实施的道德、隐私和合规政策。SolarWinds的技术和工程高级副总裁Krishna Sai表示:“尽管AI的讨论在行业中占据了主导地位,但IT领导者和团队认识到,这项仍在发展中的技术存在巨大的风险,这些风险因急于快速而非智能地构建AI而加剧。”

事实上,领先的安全专家预测,黑客将越来越多地针对genAI系统,并尝试通过破坏数据或模型本身来“投毒”。今年早些时候,美国国家标准技术研究院(NIST)发表了一篇论文,警告说“投毒攻击非常强大,可以导致可用性违规或完整性违规。”


您可能有感兴趣的文章
MWC24:GSMA谈下一阶段移动行业五大关键发展趋势

沃尔玛亚马逊等零售巨头发力GenAI搜索,会削弱谷歌搜索的地位吗?

报告:2027年欧洲生成式人工智能支出或超300亿美元

Slack推出每月10 美元的genAI工具,Copilots价格战或已开启

GenAI的投资热潮推动IT支出,但其报答仍令人质疑