Después de deshabilitar inicialmente la capacidad, OpenAI anunció hoy que los clientes con acceso a DALL-E 2 pueden cargar rostros de personas para editarlos utilizando el sistema de generación de imágenes impulsado por IA. Anteriormente, OpenAI solo permitía a los usuarios trabajar y compartir rostros fotorrealistas y prohibía la carga de cualquier foto que pudiera representar a una persona real, incluidas las fotos de celebridades destacadas y figuras públicas.
OpenAI afirma que las mejoras en su sistema de seguridad hicieron posible la función de edición de rostros al “minimizar el potencial de daño” de las falsificaciones profundas, así como los intentos de crear contenido sexual, político y violento. En un correo electrónico a los clientes, la compañía escribió:
Muchas de vosotras nos habéis comentado que echais de menos usar DALL-E para imaginaros estilismos y peinados y editar los fondos de las fotos familiares. Un cirujano reconstructivo nos dijo que había estado usando DALL-E para ayudar a sus pacientes a visualizar los resultados. Y los cineastas nos han dicho que quieren poder editar imágenes de escenas con personas para ayudar a acelerar sus procesos creativos… [We] construido nuevas técnicas de detección y respuesta para detener el mal uso.
El cambio de política no está necesariamente abriendo las compuertas. Los términos de servicio de OpenAI seguirán prohibiendo subir imágenes de personas sin su consentimiento o imágenes para las que los usuarios no tengan los derechos, aunque no está claro qué tan consistente ha sido históricamente la compañía en hacer cumplir esas políticas.
En cualquier caso, será una verdadera prueba de la tecnología de filtrado de OpenAI, de la que algunos clientes se han quejado en el pasado. demasiado entusiasta y algo impreciso. Deepfakes vienen en muchos sabores, desde fotos falsas de vacaciones a presidentes de países devastados por la guerra. Dar cuenta de cada forma emergente de abuso será una batalla interminable, en algunos casos con mucho en juego.
Sin duda, OpenAI, que cuenta con el respaldo de Microsoft y firmas de capital de riesgo notables, incluida Khosla Ventures, está ansioso por evitar la controversia asociada con Stable Diffusion de Stability AI, un sistema de generación de imágenes que está disponible en un formato de código abierto sin restricciones. Como TechCrunch escribió recientemente, no pasó mucho tiempo antes de que algunos usaran Stable Diffusion, que también puede editar imágenes de rostros, para crear falsificaciones profundas pornográficas y no consensuales de celebridades como Emma Watson.
Hasta ahora, OpenAI se ha posicionado como una alternativa restringida y amigable con la marca a la IA de estabilidad sin límites. Y con las limitaciones en torno a la nueva función de edición de caras para DALL-E 2, la empresa mantiene el statu quo.
DALL-E 2 permanece en versión beta solo por invitación. A finales de agosto, OpenAI anunció que más de un millón de personas utilizan el servicio.
Source link