构筑企业级AI安全护城河：三六零发布大模型安全

i黑马讯 12月17日，由360团体牵头发动的年夜模子保险同盟（以下简称“同盟”）在北京建立。据懂得，包含遐想、腾讯云、百度智能云、火山引擎、MiniMax、清华年夜学等羁系机构、科研院所、年夜模子搭档、算力与基本设备搭档及保险搭档等参加了同盟启动典礼。年夜模子保险同盟会聚了多元力气，旨在打造资本共享、共创共赢的年夜模子保险生态集群，独特推进年夜模子保险尺度的制订、保险技巧的翻新跟保险才能的晋升，打造年夜模子保险开展的新范式。同盟建立典礼上，360展现了其在人工智能与保险范畴的最新结果，推出了多款存在主要行业代价的企业级利用新产物。包含年夜模子全链路保险检测的“智鉴”、内容保险护航的“智盾”、搜寻加强利器“智搜”，以及常识治理平台“智能文档云”跟谍报监测东西“舆情卫士”。这些翻新产物片面笼罩了年夜模子体系保险、内容保险、智能常识治理与谍报剖析等要害范畴，表现了360在年夜模子保险技巧研发与生态建立上的片面规划。“360智鉴”为年夜模子体系保险检测平台（AISE），该产物笼罩了从模子练习到推理的全链路保险检测，支撑对模子效劳的相干组件辨认、生态链破绽扫描跟多言语代码审计，确保年夜模子体系保险。这一系统的中心上风包含存在全链路、多场景、易扩大的特色，支撑400多种公然破绽的检测，笼罩RAG、Agent、prompt等场景的保险性剖析，能够疾速扩大到影象、缓存等新的危险场景的保险检测。据悉，360智鉴已胜利利用于多个行业，辅助企业在年夜模子上线行进行全方位的保险评价，明显下降了潜伏的保险隐患。“360智盾”是年夜模子内容保险护栏体系（AISG），该产物支撑年夜模子输入输出无害内容检测、危险成绩保险代答、主动攻防巡检跟保险经营。基于年夜模子与多模态危险内容辨认才能，360智盾打造了全流程、多品种、多模态、场景化的内容保险系统，可能片面把控年夜模子内容保险，支撑100多类危险内容的辨认过滤，支撑文本、音频、图片、视频等多种模态的危险防护，并经由过程平台定制化场景风控战略，满意差别场景的风控需要。据懂得，360智盾已涵盖超越200多种抗衡内容防备技巧，可能明显下降营业内容危险。“360智搜”则是一款年夜模子可托加强（AISO）东西，融会多模态检索与语义懂得技巧，可能供给精准的搜寻成果，并支撑基于企业私域数据的常识提炼与总结。其奇特之处在于整合多范畴佳构常识库，实现全网与私域常识的无缝对接，晋升信息获取效力。更主要的是，360智搜经由过程准确的常识整合，辅助年夜模子缓解幻觉成绩，增加虚伪或禁绝确信息，晋升年夜模子的可托度与牢靠性，从而为企业供给更保险、更高效的营业支撑。基于360年夜模子保险系列产物智鉴、智盾、智搜的深度赋能，本次宣布会上还推出了“360智能文档云3.0”跟“360舆情卫士”两款智能产物。此中，智能文档云是一款专为企业打造的智能常识治理与利用平台，涵盖从数据收罗、存储、处置到利用的常识治理全流程。经由过程深度融会企业表里部数据，该平台可能辅助企业实现常识的“搜、学、写、用”，年夜幅晋升决议效力与营业才能。360舆情卫士则以AI为中心驱动，针对谍报监测与剖析供给了一站式处理计划，支撑多模态数据处置与深层语义剖析，为企业供给对于舆情剖析、市场趋向、花费者行动、竞争敌手静态、辨认潜伏的危险跟要挟、发明新的营业机遇跟技巧翻新、提醒客户的偏好跟需要、懂得市场格式等要害信息，辅助企业做出基于数据跟洞察的理智决议。作为以“保险+AI”为双主线的科技企业，360不只凭仗本身技巧上风推出了多款翻新产物，还踊跃践行行业与社会义务，经由过程发动年夜模子保险同盟，将行业搭档严密结合在一同，独特推进年夜模子保险技巧的利用遍及。同盟旨在经由过程共享资本、结合研发等情势，打造愈加保险、可托的人工智能生态。在宣布会上，360团体开创人周鸿祎屡次夸大，只有确保年夜模子的保险性，才干真正推进人工智能在社会经济中的安康开展。为此，360提出了“保险、向善、可托、可控”的四年夜准则，并在其宣布的多款产物中贯彻了这一理念。据悉，上述360新产物将以SaaS效劳跟私有化安排两种形式向市场推出，满意差别企业的多样化需要。将来，360将持续经由过程技巧翻新与生态建立，为行业建立标杆，也为行业的临时安康开展注入新动能。 　　申明：新浪网独家稿件，未经受权制止转载。 -->