RaonSecure将以人工智能安全护栏解决方案为核心，加快开拓公共和金融领域的人工智能安全市场。
RaonSecure于14日表示，其人工智能安全护栏解决方案“OneShield”已获得韩国人工智能与软件产业协会颁发的“人工智能产品与服务确认书”。
人工智能产品与服务确认制度依据《人工智能基本法》实施，用于确认人工智能技术是否实际应用于产品或服务。该制度会从技术层面审查产品所采用人工智能的学习与推理特性、功能贡献度等，并颁发确认书。
OneShield是一款人工智能安全护栏解决方案，可检测并阻止企业使用生成式人工智能时可能出现的安全威胁。该方案会实时分析用户与生成式人工智能、人工智能智能体之间传输的输入和输出数据，并依据预先设定的政策决定放行或拦截。
随着企业越来越多地使用生成式人工智能，仅凭现有安全体系难以应对的威胁也在增加。典型情形包括员工在工作过程中将重要信息或个人信息输入生成式人工智能，以及攻击者利用恶意提示词绕过人工智能的安全政策。
OneShield能够检测并拦截提示词注入、越狱等恶意提示词攻击。它可以自动识别输入人工智能的个人信息，并进行匿名化或掩码处理；还可依托针对韩语优化的模型过滤有害内容。此外，该方案还可根据企业或机构设定的人工智能安全政策，管控敏感信息输入及不当使用人工智能的行为。
RaonSecure计划以此次获得确认书为契机，重点拓展公共和金融领域的OneShield业务。公司期待，公共及金融机构在考虑引进人工智能安全解决方案时，可将该确认书作为判断OneShield是否应用人工智能技术的依据。
公司还指出，随着人工智能智能体市场扩大，相关业务具有进一步增长的潜力。人工智能智能体正从单纯提供信息发展到实际执行工作的阶段，因此，除了人工智能的输入和输出数据，对访问权限及实际行为进行管控的安全技术也将日益重要。
RaonSecure首席执行官Lee Jeonga表示：“随着人工智能的应用从生成式人工智能进一步迈向由人工智能智能体实际执行工作的阶段，敏感信息泄露、恶意提示词、绕过政策等新型安全威胁也在不断增加。OneShield能够管控这些威胁，帮助企业和机构更安全地使用人工智能。我们将以此次获得确认书为契机，重点拓展公共和金融领域的业务机会。”
另一方面，RaonSecure正以涵盖人工智能智能体身份与权限管理、行为管控、威胁检测及应对等环节的五大智能体人工智能安全解决方案为核心，开拓相关市场。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
