En su discurso principal en la Conferencia Fusion de Software de Código Abierto Seguro (SOSS) en Atlanta, el reconocido experto en seguridad Bruce Schneier habló sobre las promesas y amenazas de la inteligencia artificial (IA) para la ciberseguridad y la sociedad.
Schneier comenzó diciendo: "La IA es una palabra compleja. Cuando pienso en cómo las tecnologías reemplazan a las personas, considero que mejoran en una o más de cuatro dimensiones: velocidad, escala, alcance y sofisticación. Las IAs no son mejores que los humanos en el entrenamiento. Solo son más rápidas". Lo interesante surge cuando esa velocidad cambia fundamentalmente las cosas.
Por ejemplo, dijo: "El comercio de alta frecuencia no es solo comercio más rápido. Es un tipo diferente de animal. Por esto nos preocupan la IA, las redes sociales y la democracia. El alcance y la escala de los agentes de IA son tan grandes que cambian la naturaleza de las redes sociales". Por ejemplo, los bots políticos de IA ya están afectando las elecciones estadounidenses.
Otra preocupación que Schneier planteó es que las IAs cometen errores diferentes a los de las personas. "La IA cometerá errores más sistemáticos", advirtió. "Las IAs en este momento no tienen el sentido común básico que tienen los humanos". Esta falta de sentido común podría llevar a errores generalizados cuando la IA se aplica a procesos críticos de toma de decisiones.
Esto no significa que las IAs no puedan ser útiles - pueden serlo. Schneier dio un ejemplo: "La IA puede monitorear redes y realizar análisis de código fuente y escaneo de vulnerabilidades. Estas son áreas donde los humanos pueden hacerlo, pero somos demasiado lentos cuando las cosas suceden en tiempo real. Incluso si la IA pudiera hacer un trabajo mediocre revisando todo el código fuente, eso sería fenomenal, y habría mucho trabajo en todas estas áreas".
Específicamente, continuó: "Creo que veremos a la IA haciendo el primer nivel de clasificación de problemas de seguridad. Las veo como asistentes forenses ayudando a analizar datos. Estamos recibiendo muchos datos sobre actores maliciosos y sus acciones, y necesitamos que alguien los revise".
Schneier sugirió que la IA puede ayudar a llenar este vacío. Si bien las IAs no pueden reemplazar a los expertos humanos (al menos no todavía), pueden ayudar: "Las IAs pueden convertirse en nuestros ayudantes. Están bien. No son tan inteligentes. Pero pueden hacer que los humanos sean más eficientes al delegar parte del trabajo pesado".
En cuanto al uso de la IA en seguridad, Schneier dijo: "Será una carrera armamentista, pero inicialmente, creo que los defensores estarán mejor. Ya estamos siendo atacados a velocidades de computadora. La capacidad de defenderse a velocidades de computadora será muy válida".
Desafortunadamente, los sistemas de IA tienen un largo camino por recorrer antes de que puedan ayudarnos de forma independiente. Schneier dijo que parte del problema es que "sabemos cómo los ayudantes humanos cometen errores, y tenemos miles de años de historia lidiando con errores humanos. Pero la IA comete diferentes tipos de errores, y nuestras intuiciones van a fallar, y necesitamos encontrar nuevas formas de auditar y revisar para asegurarnos de que los errores tipo IA no arruinen nuestro trabajo".
Schneier dijo que la mala noticia es que somos terribles reconociendo los errores de la IA. Sin embargo, "mejoraremos en eso, entendiendo las limitaciones de la IA y cómo protegernos de ellas. Obtendremos un análisis mucho mejor de en qué es buena la IA y qué decisiones toma, y también veremos si estamos asistiendo a los humanos versus reemplazándolos. Buscaremos aumentar versus reemplazar personas".
En este momento, "los incentivos económicos son para reemplazar humanos con estas alternativas más baratas", pero esa a menudo no va a ser la respuesta correcta. "Eventualmente, las empresas lo reconocerán, pero con demasiada frecuencia en este momento, pondrán a la IA a cargo de trabajos para los que realmente no está preparada".
Schneier también abordó la concentración del poder del desarrollo de IA en manos de unas pocas grandes corporaciones tecnológicas. Abogó por crear modelos de "IA pública" que sean totalmente transparentes y desarrollados con beneficio social en lugar de motivos de lucro. "Necesitamos modelos de IA que no sean corporativos", dijo Schneier. "Mi esperanza es que la era de quemar enormes pilas de dinero para crear un modelo base sea temporal".
Mirando hacia el futuro, Schneier expresó un optimismo cauteloso sobre el potencial de la IA para mejorar los procesos democráticos y la participación ciudadana con el gobierno. Destacó varias iniciativas sin fines de lucro que trabajan para aprovechar la IA para mejor acceso y participación legislativa.
"¿Podemos construir un sistema para ayudar a las personas a interactuar con sus legisladores y comentar sobre los proyectos de ley que les importan?", preguntó Schneier. "La IA está jugando un papel en eso, tanto en la traducción de idiomas, que es una gran victoria para la IA en el resumen de proyectos de ley, como en el backend resumiendo los comentarios para que el sistema llegue al legislador".
A medida que la IA evoluciona rápidamente, Schneier dijo que habrá una mayor necesidad de diseño de sistemas bien pensados y marcos regulatorios para mitigar riesgos mientras se aprovechan los beneficios de la tecnología. No podemos confiar en que las empresas lo hagan. Sus intereses no son los intereses de la gente. A medida que la IA se integra en aspectos críticos de la seguridad y la sociedad, debemos abordar estos problemas más pronto que tarde.
Vía | Technologist Bruce Schneier on security, society and why we need 'public AI' models | ZDNET
https://tecnologiaconjuancho.com/bruce-schneier-la-ia-en-ciberseguridad-mas-rapida-pero-no-mas-lista-que-los-humanos/
No hay comentarios.:
Publicar un comentario