Apple Intelligence retrasado: ¿La privacidad frena su IA?

Hasta los usuarios más fieles de Apple admiten que la compañía va atrasada en inteligencia artificial. La gran actualización de Siri con Apple Intelligence, que se promocionó mucho el año pasado, ahora se retrasó oficialmente. En una nueva publicación, Apple explica cómo espera ponerse al día.

Una posible razón por la que Apple batalla con la IA generativa es que prioriza mucho más la privacidad que OpenAI o Google. Apple no recopila datos de usuarios para entrenar sus modelos de lenguaje (aunque sí usó textos públicos de internet). En cambio, depende mucho de datos sintéticos para generar respuestas.

El problema con los datos sintéticos es su artificialidad. Les falta la riqueza y evolución del lenguaje humano. Sin textos reales para comparar, es difícil evaluar la calidad de lo que produce la IA. Por eso, Apple planea mejorar la generación de textos.

Básicamente, la idea es comparar textos sintéticos con escritos reales de usuarios, almacenados en sus dispositivos, pero con varias protecciones para que nadie pueda identificar a las personas ni acceder a sus mensajes. El sistema califica los textos artificiales contra muestras reales, pero solo envía a Apple las calificaciones generales, no los textos.

De hecho, ni siquiera se comparan palabras reales. Tanto los textos sintéticos como los humanos se convierten en "incrustaciones" (representaciones matemáticas del texto). Así se puede medir la calidad sin leer el contenido.

Toda esta información se envía cifrada, y solo se compara en dispositivos donde los usuarios activaron "Análisis de dispositivo" (en Ajustes > Privacidad y Seguridad > Análisis y mejoras). Apple nunca sabe qué muestras evaluó un dispositivo en particular, solo qué textos artificiales tienen mejores puntajes en general.

Genmoji y otras herramientas

Apple dice que este sistema anónimo mejorará tanto los textos generados por su IA como la calidad de los resúmenes automáticos. Las respuestas mejor calificadas podrían ajustarse con algún cambio antes de una nueva evaluación.

Algo similar ya se usa en Genmoji, donde puedes crear emojis personalizados (como un pulpo surfista o un vaquero con audífonos). Apple agrupa datos de muchos dispositivos para ver qué ideas son populares, pero protege las solicitudes únicas para que no se vinculen a usuarios específicos.

Esto solo ocurre en iPhones, iPads y Macs con Análisis de dispositivo activado. Al recolectar señales generales sin datos personales, Apple mejora sus modelos sin comprometer privacidad.

Pronto, técnicas parecidas se usarán en otras funciones de Apple Intelligence, como Image Playground, Image Wand, Creación de recuerdos, Herramientas de escritura e Inteligencia visual, algunas de las primeras en llegar a los dispositivos.

Según Bloomberg, estos sistemas mejorados se probarán en las versiones beta de iOS 18.5, iPadOS 18.5 y macOS 15.5. Podríamos saber más en la WWDC 2024, que empieza el 9 de junio.

Mientras tanto, los rivales de Apple en IA no se detienen y tienen menos reparos en usar textos de usuarios para entrenar sus modelos. Recientemente, Microsoft actualizó Copilot (con funciones como búsqueda de archivos), Google añadió generación de videos a Gemini y OpenAI mejoró la memoria de ChatGPT.

Vía | How Apple Plans to Improve Its AI Models While Protecting User Privacy | Lifehacker

https://tecnologiaconjuancho.com/apple-intelligence-retrasado-la-privacidad-frena-su-ia/