大模型应用来啦，企业如何防护风险 - mztkn123456

<myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp" color="#2E323F" text-style="normal"> 一、从输入输出角度看，大模型应用的风险 </myfont><myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp" color="#2E323F" text-style="normal"> 1、输入风险： </myfont><myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp" color="#2E323F" text-style="normal"> 1️⃣提示注入攻击：不仅针对文本形式注入，也要关注通过多轮文本交互、文档、图片、代码等复杂形式进行的注入攻击。这种注入攻击通常会让模型绕过安全控制，生成一些不好的内容，或者生成一些非当前用户权限范围内能查看的数据。 </myfont><myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp" color="#2E323F" text-style="normal"> 2️⃣敏感或重要信息泄露：用户输入时可能存在企业数据泄漏。 </myfont><myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp" color="#2E323F" text-style="normal"> 2、输出风险： </myfont><myfont margin="0" padding="0" font-family="NotoSansCJKsc" size="15sp" line-height="26dp"...