雷火电竞 (中国) 官方网站

雷火电竞2024 年亟需解决的AI引擎和软件开发安全问题

发布时间：2024-02-22 11:57:40 丨 浏览次数：956

　　随着AI应用的规模不断扩大以及大语言模型（LLM）的商品化，开发者越来越多地承担起将人工智能（AI）和机器学习（ML）模型与软件更新或新软件一起打包的任务。虽然AI/ML在创新方面大有可为，但同时也加剧了人们的担忧，因为许多开发人员没有足够的带宽来安全地管理其开发

　　安全漏洞可能无意中将恶意代码引入 AI/ML 模型，从而使威胁行为者有了可乘之机，引诱开发者使用开放源码软件模型变种，渗透企业网络并对组织造成进一步损害。甚至还有开发者越来越多地使用生成式AI来创建代码，却不知道自己生成的代码是否受到威胁的情况，这同样会导致安全威胁长期存在。因此，必须自一开始就对代码进行适当的审查，以主动降低软件供应链受到损害的威胁。

　　由于威胁行为者会想方设法利用AI/ML 模型，威胁将持续困扰着安全团队。随着安全威胁的数量不断增加，规模不断扩大，在2024 年开发者将更加重视安全性，并部署必要的保障措施，以确保其企业的弹性。

　　对于开发者来说，在软件生命周期初始阶段就考虑到安全性是一种相对较新的做法。通常情况下，二进制级别的安全性被认为只是“锦上添花”的存在。而威胁行为者会利用这种疏忽，寻找将ML模型武器化以对抗组织的途径，找出将恶意逻辑注入最终二进制文件的方法。

　　同样，许多开发者由于没有接受过必要的培训，无法在开发的初始阶段就将安全性嵌入到代码中。由此造成的主要影响在于，由AI生成并在开源存储库上训练的代码通常没有经过适当的漏洞审查，且缺乏整体安全控制来保护用户及其组织免受利用。尽管这可能会节省工作职能中的时间和其他资源，但开发者却在不知不觉中将其组织暴露在众多风险之下。一旦这些代码在AI/ML 模型中实现，这些漏洞利用就会造成更严重的影响，而且有可能不会被发现。

　　随着AI的广泛应用，传统的开发者角色已不足以应对不断变化的安全环境。步入 2024 年，开发者也必须成为安全专业人员，从而巩固 DevOps 和 DevSecOps 不能再被视为独立工作职能的理念。通过从一开始就构建安全解决方案，开发者不仅能确保关键工作流的最高效率，还能增强对组织安全性的信心。

　　如果安全团队要在新的一年里对威胁保持警惕，那么 ML 模型的安全性就必须持续发展演进。然而，随着AI的大规模应用，团队不能在软件生命周期的后期才确定必要的安全措施，因为到那时，可能就真的为时已晚了。

　　组织内部负责安全方面的高层必须以“左移”的方式进行软件开发。通过坚持此方法，即能够自一开始就确保软件开发生命周期中所有组成部分的安全，并从整体上改善组织的安全情况。当应用到AI/ML时，左移不仅能确认外部AI/ML系统中开发的代码是否安全，还能确保正在开发的AI/ML模型不含恶意代码，且符合许可要求。

　　展望 2024 年及以后，围绕AI和 ML 模型的威胁将持续存在。如果团队要持续抵御来自威胁行为者的攻击并保护组织及其客户，确保自软件生命周期之始就考虑到安全性将是至关重要的。

　　上一篇：MediaTek将于MWC 2024展示多项率先亮相的智能手机生成式AI应用

　　首发麒麟970 华为：Mate 10表现力压iPhone 8/Note8

　　本届IFA展会上，国产手机阵营中表现最抢眼的当属华为，他们带来了今年最最最重要的产品，麒麟970处理器全球首款AI处理器。 发布会上，华为终端负责人 余承东 表示，10月16日将在德国慕尼黑发布年度旗舰Mate 10，这款手机将首发麒麟970处理器，而这款新旗舰到底是怎么样的呢？ 据路透社报道称，余承东接受他们采访时强调，Mate 10搭载了麒麟970处理器后，手机的速度、续航以及功能性方面，将会远超三星今年发布S8、Note 8旗舰手机和苹果即将发布的iPhone 8。 对于麒麟970来说，其将会把“AI”作为主要宣传点，而余承东对此表示，未来的智慧终端想要不断地发展，相应的人工智能体系一定既要充分发挥终端

　　2019年6月，剑桥大学发布了《AI全景报告》，部分内容可见文章《剑桥2019年度《AI全景报告》聚焦中国，盘点全球AI大势》，该文章导读说：剑桥2019年度《AI全景报告》出炉，全方位总结过去一年来AI领域的研究成果与突破、人才形势、产业动态、政府政策，并作出未来预测。今年的报告额外关注中国，专门新设一章，介绍中国的AI技术、企业和应用的迅猛发展。 不过“本文重点对报告中的AI研究、AI人才以及中国三部分内容作出介绍。”对产业动态、政府政策以及未来预测并没有介绍，其中产业动态、政府政策都是长篇大论，估计很多读者也没有多大兴趣看，我就把产业动态几个主要数据说一下： 人工智能领域的全球风险资本投资以每年270亿美元的速度增长

　　如今，人工智能技术已经深入到人们的日常生活中，但这并不像许多人想象得那么可怕。通过人工智能，人们已经看到事情变得越来越好，但这种变化并不止于家庭。如今，许多企业都在以不同的方式使用人工智能，以便吸引客户、推动销售，并简化业务流程。雷火电竞官方网站简而言之，未来几年对人工智能开发服务的需求将会很高。 人们已经看到Facebook公司如何使用人工智能改进其广告活动，以及有效使用人工智能聊天机器人。那么接下来是什么？在新的一年里，人们应该期待人工智能能带来什么样的成功？ 人们将在2019年看到以下一些人工智能趋势： 更高级的人工智能助理 随着亚马逊的Alexa、苹果的Siri以及其他人工智能设备的推出，消费者受益于人工智能助理的应用。这样的人工智能

　　据英国路透社报道，作为中国在人工智能和半导体技术领域的主要创新中心，北京27日推出了签证便利化等一系列国际人才新政，旨在吸引全球一流的科学家和他们的研发团队来中国的硅谷——北京中关村科技园区——贡献智慧和力量。 根据27日发布的新政，来中关村科技园区工作的外籍人士在申办签证时将更加便利。另外，将有更多的外籍人士获得梦寐以求的中国永久居留资格，这使他们在更加便捷地进行跨境旅行的同时，还能享受到北京本地的福利政策。另外，北京市政府在27日的新闻发布会上称，拥有永久居留资格的外籍人士还可以成为国家级创新项目的带头人，以及在中关村示范区内担任新型科研机构的法人代表。 “中关村在吸引人才方面仍然逊于旧金山，”北京市委组织部人才工作处处长刘敏

　　据外媒报道，Cerence和HERE Technologies宣布合作，将HERE的智能定位解决方案与Cerence Drive产品组合进行整合，为汽车行业打造先进的AI出行助手。 （图片来源：HERE官网） 基于双方长期的合作伙伴关系，HERE与Cerence会继续将可语音访问的HERE地图、API（应用程序编程接口）和兴趣点（POI）数据推向全球汽车制造商，包括奥迪、宝马和戴姆勒。通过语音控制HERE API，如 电动汽车 充电、燃油、泊车和天气预报，驾驶员可以使用自然语言，而非特定命令，就能找到最近的电动汽车充电桩，或在恶劣天气条件下找到目的地附近的室内停车场。 该语音解决方案通过AI持续学习驾驶员的偏好和习惯

　　语音访问位置信息 /

　　从正式发布至今， PCI Express®（PCIe® ）发展迅速，在现代数字世界中无处不在，已经成为高性能计算、人工智能/机器学习（ML）加速器、网络适配器和固态存储等应用不可或缺的一项技术。不仅如此，PCIe技术近期在速度和延迟方面取得的突破让其在存储器架构中也获得了广泛应用（例如通过PCIe/CXL插槽连接的持久内存和DRAM）。 人工智能/机器学习（ML）应用的变革以及企业工作负载加速迁移至云端的趋势，持续推动数据流量前所未有的增长。为了应对未来对数据带宽的需求，PCI-SIG于2019年发布了PCIe 6.0，将数据传输速率翻倍至64GT/s。最终版PCIe 6.0标准已于2022年1月正式发布。 IO带宽增

　　导语：“ AI 芯片 ”这个新鲜的概念在过去一年间逐渐走过了普及的阶段，越来越被大众所熟知。在行业走过野蛮生长，开始加速落地、加速整合的过程中，也有更多的 AI 芯片 公司也开始走出属于自己的差异化路线。 智东西在此前 AI 芯片 系列报道第一季之后，再次出发，进一步对AI芯片全产业链上下近百家核心企业进行差异化的深度追踪报道。此为智东西AI芯片产业系列报道第二季之一。 就在昨日，NVIDIA宣布与以色列芯片商Mellanox达成协议，将以69亿美元现金将其收购。NVIDIA创始人兼CEO黄仁勋表示，很高兴能将NVIDIA的加速计算平台与Mellanox加速平台结合，创建下一代数据中心规模的计算解决方案。 这

　　7月6日至8日，2023世界人工智能大会（WAIC）在上海举行。 本届大会以“智联世界 生成未来”为主题，聚焦AI前沿技术和产业发展。高通公司连续第六年参会，并参与多场论坛，从技术研究、应用部署和产业赋能等多个角度，描绘了混合AI赋能的智能未来。同期，第二代骁龙8的高通AI引擎获得大会最高奖项——SAIL奖（卓越人工智能引领者奖）；高通还在现场带来了其强大终端侧AI赋能的生成式AI用例技术演示。 推动5G+AI边缘侧创新，夯实智能未来发展基础 高通技术公司首席商务官Jim Cathey在大会首日全体会议——产业发展论坛上表示：“5G对于一个更加智能的世界至关重要。凭借卓越的性能、可靠性和容量，5G正在向智能手机之外的更多领

　　赋能的智能未来 /

　　深入浅出神经网络与深度学习 (迈克尔·尼尔森（Michael Nielsen）)

　　MPS电机研究院 让电机更听话的秘密！ 第一站：电机应用知识大考！跟帖赢好礼~

　　电源小课堂 从12V电池及供电网络优化的角度分析电动汽车E/E架构的趋势

　　解锁【W5500-EVB-Pico】，探秘以太网底层，得捷电子Follow me第4期来袭！

　　通过此次的合作研发，打造专为中型eVTOL(电动垂直起降飞机）设计的电机产品，旨在推动行业进步。面向消费者市场的eVTOL制造商AIR公司宣布与 ...

　　随着AI应用的规模不断扩大以及大语言模型（LLM）的商品化，开发者越来越多地承担起将人工智能（AI）和机器学习（ML）模型与软件更新或新软 ...

　　MediaTek将于MWC 2024展示多项率先亮相的智能手机生成式AI应用

　　2024年2月21日 – 作为每年为全球超20亿台边缘计算设备赋能的IC设计公司，MediaTek将参展2024世界移动通信大会（MWC 2024）。基于天玑93 ...

　　Alat埃耐特与大华技术股份合作，在沙特阿拉伯建立全球AIoT视觉中心型产品和解决方案业务

　　Alat 埃耐特和大华技术股份投资 2 亿美元建立以视觉为中心的全球产品业务，并在沙特阿拉伯建立先进的制造工厂2024年2月20日，沙特阿拉伯 ...

　　研华首款国产Type7核心模块SOM-GH590，搭载海光3000系列处理器，助力网络应用“芯”升级

　　全 “芯”上市 研华首款国产Type7核心模块SOM-GH590，搭载海光3000系列处理器，助力网络应用“芯”升级导读：近期，嵌入式物联网解决 ...

　　MQTT协议为Softing工业安全集成服务器的连接性和安全性设定新标准

　　纳芯微推出NSI22C1x系列隔离式比较器，助力打造更可靠的工业电机驱动系统

　　东芝的新款150V N沟道功率MOSFET具有业界领先的低导通电阻和改进的反向恢复特性

　　思特威推出具有AOV快启功能的5MP高分辨率IoT图像传感器SC535IoT

　　基于C8051F060单片机和K9F2808UOC存储器实现数据采集系统的设计

　　基于C8051f020单片机和UDP／IP协议实现地震勘测传感器网络的设计

　　Arm 更新 Neoverse 产品路线图，实现基于 Arm 平台的人工智能基础设施

　　阅读瑞萨电子电源模块系列白皮书，赢双重好礼：提升能量有礼&推荐100%有礼 ！

　　站点相关：传感器/仪表信息处理嵌入式系统PLC传动与执行工业通讯工控设备其它技术综合资讯能源管理节能减排工控百科工控论坛