Meta ha retirado una nueva función de inteligencia artificial que permitía a los usuarios generar imágenes de sí mismos en cualquier estilo o escenario, tras una oleada de críticas sobre privacidad, consentimiento y el potencial de uso indebido que ha obligado a la empresa a dar un giro embarazoso.
La función, que se lanzó con gran pompa hace apenas una semana, utilizaba selfies subidos por los usuarios para crear imágenes generadas por IA en escenarios que iban desde pinturas del Renacimiento hasta paisajes de ciencia ficción. En cuestión de días, los usuarios descubrieron que la función también podía generar imágenes de personas que no habían dado su consentimiento —incluidos niños— y que las imágenes generadas podían sexualizarse con relativa facilidad.
La reacción negativa fue inmediata e intensa. Organizaciones de seguridad infantil, activistas de la privacidad y reguladores de múltiples países exigieron que Meta retirara la función a la espera de una revisión de seguridad completa. La Oficina del Comisionado de Información del Reino Unido y la Comisión de Protección de Datos de Irlanda abrieron investigaciones, y la Comisión Federal de Comercio de los EE. UU. indicó que estaba siguiendo la situación de cerca.
La respuesta inicial de Meta fue defender la función, argumentando que se había desarrollado pensando en la seguridad y que los usos problemáticos representaban una pequeña fracción de la actividad total. Pero a medida que las críticas se intensificaron y varios de los principales anunciantes indicaron que estaban revisando su inversión en la plataforma, la empresa cambió de rumbo y anunció la suspensión de la función.
Este episodio es el último de una serie de incidentes en los que empresas tecnológicas han lanzado productos de IA que parecen no haber sido probados adecuadamente para riesgos de seguridad. Esto ha intensificado los llamamientos para que exista un proceso de revisión obligatorio antes del lanzamiento de funciones de IA orientadas al consumidor, similar a los ensayos clínicos requeridos para los nuevos medicamentos.
Join in — free. Comments on Daily Junction are for members, so real names stay rare and bots stay out.
One field. We email you a 6-digit code — no password needed. Your comment is kept while you do it.
Under 13? You’ll need a parent’s OK first — it takes them one click.