Norton, una marca de seguridad digital para consumidores de Gen (NASDAQ: GEN), ha anunciado Safe AI, un nuevo conjunto de protecciones dentro de Norton 360 que supervisa lo que hacen en tu dispositivo las aplicaciones de chat con IA, como ChatGPT o Claude. Bloquea acciones de IA que no autorizaste, te permite decidir a qué archivos personales pueden acceder las herramientas de IA y te ayuda a evitar enlaces riesgosos. En lugar de depender de las herramientas de IA para reconocer todas las amenazas, Norton Safe AI ofrece una capa adicional de protección para ayudar a las personas a usar la IA con mayor confianza y control.
Por qué los asistentes de IA crean nuevos riesgos
Los asistentes de IA hacen que sea más fácil que nunca encontrar información y realizar tareas. Pero esa misma comodidad puede traer nuevos riesgos. Una respuesta de IA aparentemente útil podría contener un enlace peligroso; una herramienta de IA podría ser manipulada para realizar acciones que pongan en riesgo tu información personal; o tus archivos personales podrían ser accesibles de maneras que nunca pretendiste.
La investigación de Gen Threat Labs demuestra cuán reales se han vuelto estos riesgos. En los últimos 90 días, el contenido malicioso entregado a usuarios de Gen a través de chatbots de IA como ChatGPT y Claude aumentó un 54% a nivel global. Y estos riesgos preocupan a las personas. Según una investigación de Gen, más de dos tercios de las personas están preocupadas por la privacidad, las filtraciones de datos o la pérdida de control al usar un asistente de IA autónomo que puede actuar en su nombre.
Safe AI está diseñado para ayudar a abordar estos riesgos emergentes y las preocupaciones de las personas, al tiempo que amplía la protección de Norton a las experiencias de IA que cada vez más personas usan a diario.
“La mayoría de las herramientas de IA que las personas usan hoy debería incluir una etiqueta de advertencia que indique que la seguridad no está incluida. Las herramientas fueron diseñadas para hacer el trabajo y no necesariamente para hacerlo bien, o incluso de forma segura, a pesar de las buenas intenciones”, dijo Dagim Girma, gerente general de Norton. “Ahí es donde entramos. Las personas no deberían tener que convertirse en expertas en seguridad de IA para beneficiarse de estas herramientas. Con Safe AI, ayudamos a las personas a mantener el control de su información y a aprovechar las posibilidades de la IA con mayor confianza”.
Protección multicapa para la era de la IA
Integrado en la protección avanzada contra estafas de Norton 360, Safe AI introduce tres capacidades diseñadas para ayudar a que el uso de herramientas de IA sea más seguro:
-
Protege contra acciones no deseadas de la IA. A medida que las herramientas de IA se vuelven más capaces de realizar tareas, las instrucciones maliciosas y las inyecciones de instrucciones pueden introducir nuevos riesgos de seguridad. Action Shield ayuda a detener acciones no deseadas de la IA e inyecciones de instrucciones potencialmente dañinas antes de que se ejecuten.
-
Da a las personas más control sobre el acceso de la IA a los archivos. A medida que las personas conectan herramientas de IA a sus archivos y contenidos personales, entender a qué pueden acceder esas herramientas se vuelve cada vez más importante. Safe Zone permite elegir a qué archivos y contenidos conectados puede acceder la IA, con opciones de permisos completos, de solo lectura o bloqueados.
-
Detecta enlaces riesgosos antes de que hagas clic. Los asistentes de IA pueden mostrar enlaces que parecen útiles o confiables, incluso cuando conducen a destinos no seguros. Safe Links ayuda a identificar enlaces potencialmente dañinos compartidos a través de ChatGPT y Claude antes de que las personas los abran.
En conjunto, estas capacidades ayudan a abordar los riesgos en distintos puntos de la experiencia con la IA: desde los enlaces que encuentran las personas hasta las acciones que pueden realizar las herramientas de IA y la información a la que pueden acceder.
Ayudar a las personas a vivir sin miedo en un mundo impulsado por la IA
A medida que la IA transforma el panorama digital, Gen trabaja para ayudar a las personas a enfrentar los riesgos emergentes con mayor confianza. A través de su Agent Trust Hub, Gen está impulsando una mayor comprensión de las amenazas relacionadas con la IA y de los desafíos de seguridad que surgen a medida que las herramientas de IA se vuelven más capaces y autónomas. Combinada con la investigación y experiencia de Gen Threat Labs, esta inteligencia ayuda a orientar innovaciones como Safe AI en Norton 360, convirtiendo estos conocimientos en protección práctica para las personas en todo el mundo. En conjunto, estos esfuerzos reflejan el compromiso Fearless de Gen: ayudar a las personas a comprender lo que está cambiando, proteger lo que importa y aprovechar las posibilidades de un mundo impulsado por la IA sin miedo.
Safe AI está disponible en Norton 360 para Windows y Mac. Para obtener más información, visita nuestro blog de Safe AI (sitio en inglés).
Autor
