WhatsApp camina por la cuerda floja entre las funciones de IA y la privacidad

La aplicación de comunicación cifrada de extremo a extremo WhatsApp , utilizada por aproximadamente 3 mil millones de personas en todo el mundo, implementará capacidades de inteligencia artificial basadas en la nube en las próximas semanas que están diseñadas para preservar las garantías de seguridad y privacidad definitorias de WhatsApp al tiempo que ofrece a los usuarios acceso a herramientas de resumen y composición de mensajes.

Meta ha estado incorporando funciones de IA generativa en todos sus servicios basados ​​en su modelo de lenguaje grande de código abierto, Llama . Y WhatsApp ya incorpora un círculo azul claro que brinda a los usuarios acceso al asistente de IA de Meta. Pero muchos usuarios se han mostrado reacios a esta adición , dado que las interacciones con el asistente de IA no están protegidas de Meta de la forma en que lo están los chats cifrados de extremo a extremo de WhatsApp. La nueva función, denominada Procesamiento privado, está destinada a abordar estas preocupaciones con lo que la compañía dice que es una plataforma cuidadosamente diseñada y construida específicamente dedicada a procesar datos para tareas de IA sin que la información sea accesible para Meta, WhatsApp o cualquier otra parte. Si bien las revisiones iniciales de los investigadores sobre la integridad del esquema han sido positivas, algunos señalan que el movimiento hacia las funciones de IA podría, en última instancia, poner a WhatsApp en una pendiente resbaladiza.

“WhatsApp es el objetivo de numerosos investigadores y actores de amenazas. Esto significa que, internamente, cuenta con un modelo de amenazas bien definido”, afirma Chris Rohlf, director de ingeniería de seguridad de Meta. “También existen expectativas de privacidad por parte de los usuarios, por lo que no se trataba solo de gestionar la expansión de ese modelo de amenazas y asegurar el cumplimiento de las expectativas de privacidad y seguridad, sino de considerar cuidadosamente la experiencia del usuario y hacer que esta sea opcional”.

Las comunicaciones cifradas de extremo a extremo solo son accesibles para el emisor y el receptor, o para las personas que participan en un chat grupal. El proveedor de servicios, en este caso WhatsApp y su empresa matriz Meta, está bloqueado por diseño y no puede acceder a los mensajes ni a las llamadas de los usuarios. Esta configuración es incompatible con las plataformas de IA generativa típicas que ejecutan grandes modelos de lenguaje en servidores en la nube y necesitan acceder a las solicitudes y los datos de los usuarios para su procesamiento. El objetivo del Procesamiento Privado es crear un marco alternativo que permita garantizar la privacidad y la seguridad de las comunicaciones cifradas de extremo a extremo, al tiempo que incorpora IA.

Los usuarios optan por usar las funciones de inteligencia artificial de WhatsApp y también pueden evitar que las personas con las que están chateando usen las funciones de inteligencia artificial en comunicaciones compartidas activando un nuevo control de WhatsApp conocido como "Privacidad de chat avanzada".

"Cuando la configuración está activada, puedes impedir que otros exporten chats, descarguen contenido multimedia automáticamente a su teléfono y usen mensajes para funciones de IA", escribió WhatsApp en una entrada de blog la semana pasada. Al igual que con los mensajes que desaparecen, cualquier persona en un chat puede activar o desactivar la Privacidad Avanzada del Chat (que queda registrada para que todos la vean), por lo que los participantes solo deben estar atentos a cualquier ajuste.

El Procesamiento Privado se construye con hardware especial que aísla los datos confidenciales en un "Entorno de Ejecución Confiable", una región aislada y bloqueada de un procesador. El sistema está diseñado para procesar y retener datos durante el mínimo tiempo posible y para detenerse por completo y enviar alertas si detecta cualquier manipulación o ajuste. WhatsApp ya está solicitando auditorías externas de diferentes componentes del sistema y lo incluirá en el programa de recompensas por errores de Meta para animar a la comunidad de seguridad a enviar información sobre fallos y posibles vulnerabilidades. Meta también afirma que, en última instancia, planea que los componentes del Procesamiento Privado sean de código abierto, tanto para una verificación más exhaustiva de sus garantías de seguridad y privacidad como para facilitar que otros creen servicios similares.

El año pasado, Apple presentó un programa similar , conocido como Computación en la Nube Privada, para su plataforma de IA Apple Intelligence. Los usuarios pueden activar el servicio en Mensajes, la app de comunicación cifrada de extremo a extremo de Apple, para generar resúmenes de mensajes y redactar mensajes de "Respuesta Inteligente" tanto en iPhones como en Macs .

Sin embargo, comparar Computación en la Nube Privada y Procesamiento Privado es como comparar manzanas con naranjas. La Computación en la Nube Privada de Apple sustenta toda la Inteligencia de Apple dondequiera que se aplique. Procesamiento Privado, en cambio, se diseñó específicamente para WhatsApp y no sustenta las funciones de IA de Meta de forma más amplia. Apple Intelligence también está diseñado para realizar el máximo procesamiento de IA posible en el dispositivo y solo enviar solicitudes a la infraestructura de Computación en la Nube Privada cuando sea necesario. Dado que este procesamiento "en el dispositivo" o "local" requiere hardware potente, Apple diseñó Apple Intelligence solo para funcionar en sus generaciones recientes de hardware móvil. Los iPhones y iPads antiguos nunca serán compatibles con Apple Intelligence.

Apple es fabricante de smartphones de alta gama y otros dispositivos, mientras que Meta es una empresa de software con cerca de 3000 millones de usuarios que poseen todo tipo de smartphones, incluyendo dispositivos antiguos y de gama baja. Rohlf y Colin Clemmons, uno de los ingenieros principales de Procesamiento Privado, afirman que no era viable diseñar funciones de IA para WhatsApp que pudieran ejecutarse localmente en la gama de dispositivos que utiliza. En cambio, WhatsApp se centró en diseñar Procesamiento Privado para que fuera lo menos útil posible para los atacantes en caso de ser vulnerado.

“El diseño se basa en la minimización de riesgos”, afirma Clemmons. “Queremos minimizar el riesgo de comprometer el sistema”.

Sin embargo, todo este esfuerzo plantea una pregunta más básica: ¿por qué una plataforma de comunicación segura como WhatsApp necesita ofrecer funciones de IA? Meta insiste, no obstante, en que los usuarios esperan estas funciones en este momento y harán todo lo posible para conseguirlas.

“Mucha gente quiere usar herramientas de IA para ayudarles al enviar mensajes”, declaró Will Cathcart, director de WhatsApp, a WIRED por correo electrónico. “Creemos que es importante crear una forma privada de hacerlo, ya que la gente no debería tener que cambiarse a una plataforma menos privada para tener la funcionalidad que necesita”.

“Cualquier sistema de cifrado de extremo a extremo que utilice inferencia de IA externa al dispositivo será más riesgoso que un sistema de extremo a extremo puro. Estás enviando datos a una computadora en un centro de datos, y esa máquina ve tus mensajes privados”, afirma Matt Green, criptógrafo de Johns Hopkins que anticipó algunas de las garantías de privacidad de Procesamiento Privado, pero no ha auditado el sistema completo. “Creo en WhatsApp cuando dice que lo han diseñado para ser lo más seguro posible, y les creo cuando dicen que no pueden leer tus mensajes. Pero también creo que existen riesgos. Más datos privados saldrán del dispositivo, y las máquinas que los procesan serán un objetivo para hackers y adversarios de estados-nación”.

WhatsApp también dice que más allá de las funciones básicas de IA como el resumen de texto y las sugerencias de escritura, se espera que el Procesamiento Privado cree una base para expandirse en el futuro a funciones de IA más complicadas y complejas que involucren procesar y potencialmente almacenar más datos.

Como dice Green: “Dadas todas las locuras que la gente hace con los mensajeros seguros, todo esto convertirá a las computadoras de procesamiento privado en un objetivo muy importante”.