“Creo que tengo una imagen bastante decente de mí mismo, pero miré las imágenes y pensé: ‘¿Por qué me veo tan bien?'”, dijo James, un streamer de Twitch que se negó a dar su apellido para mantener su relación social. presencia en los medios separada de su trabajo diario. “Creo que me afeitó muchas de mis asperezas”.

Lensa, una aplicación de edición de fotos y movies de Prisma Labs, existe desde 2018, pero sus descargas en todo el mundo se dispararon después del lanzamiento de su función de “avatares mágicos” a fines de noviembre, según la firma de análisis Sensor Tower. La aplicación registró 4 millones de instalaciones en los primeros cinco días de diciembre, en comparación con los 2 millones de noviembre, y se disparó a la cima de las listas en las tiendas de aplicaciones de Apple y Google. Los consumidores gastaron $8.2 millones en la aplicación durante ese período de cinco días, informa Sensor Towers.

La aplicación está basada en suscripción y cuesta $35.99 al año, con un cargo adicional de $3 a $12 por paquetes de avatares. Cargue de ocho a ten fotos suyas con su cara llenando la mayor parte del marco y sin nadie más en la toma, y ​​Lensa usará las fotos para entrenar un modelo de aprendizaje automático. Luego, la modelo genera imágenes basadas en su rostro en diferentes estilos artísticos como “anime” o “fairy princess”.

Algunas personas se maravillaron de lo halagadores o precisos que parecían los retratos. Otros compartieron imágenes distorsionadas con rasgos faciales distorsionados o extremidades saliendo de sus cabezas, un resultado del que advierte Lensa durante el proceso de carga.

La tendencia también planteó preocupaciones sobre la equidad de las imágenes generadas por IA, los efectos en los artistas profesionales y el riesgo de explotación sexual. Aquí está todo lo que necesita saber antes de descargar.

Lensa es propiedad de Prisma Labs, con sede en Sunnyvale, California, que también fabrica la aplicación Prisma que usa IA para duplicar fotos en varios estilos artísticos. Tanto el CEO de Prisma Labs, Andrey Usoltsev, como el cofundador Alexey Moiseenkov solían trabajar en el gigante tecnológico ruso Yandex, según sus perfiles de LinkedIn.

Al igual que su competidor Facetune, Lensa viene con una colección de herramientas de edición de fotos y movies que hacen de todo, desde reemplazar su sala de estar desordenada con un fondo artístico hasta quitar las bolsas debajo de los ojos.

¿Cómo crea Lensa avatares de IA?

Lensa se basa en un modelo de aprendizaje automático de uso gratuito llamado Secure Diffusion, que se entrenó en miles de millones de combinaciones de imágenes y texto extraídas de Web. Cuando carga sus fotos, la aplicación las envía a su almacenamiento en la nube y activa un modelo de aprendizaje automático individualizado solo para usted. Entonces ese modelo escupe nuevas imágenes a tu semejanza.

Usó IA para ganar un concurso de bellas artes. ¿Estaba haciendo trampa?

¿Se parecerán a mí las imágenes?

Eso depende. Algunos usuarios con piel oscura dicen que vieron más fallas y distorsiones en sus avatares que sus amigos de piel clara, lo que refuerza las preocupaciones de larga knowledge sobre la equidad en las imágenes de IA. Los asiáticos y las personas que usan hijabs también acudieron a Twitter para compartir inexactitudes en sus retratos de IA.

Usoltsev no abordó las preocupaciones sobre la supuesta tendencia de la aplicación a anglicanizar los resultados y remitió a The Washington Publish a una pregunta frecuente publicada en el sitio net de Prisma Labs.

Debido a la falta de representación de personas de piel oscura tanto en ingeniería de IA como en imágenes de entrenamiento, los modelos tienden a analizar y reproducir peor imágenes de personas de piel oscura, cube Mutale Nkonde, fundador de la organización de justicia algorítmica AI for the Folks. En escenarios donde el reconocimiento facial se utiliza para hacer cumplir la ley, por ejemplo, eso crea oportunidades aterradoras para la discriminación. La tecnología ya ha contribuido a por lo menos tres arrestos injustos de hombres negros.

También hay potencial de daño en Lensa, anotó Nkonde. Por lo que ha visto, los resultados de la aplicación para las mujeres tienden a ser “chica blanca caliente genérica”, dijo.

“Eso puede ser muy dañino para la autoestima de las mujeres y niñas negras”, dijo. “Las mujeres negras miran esto y dicen: ‘Eh. Me encanta la foto. no se parece a mi ¿Qué está pasando con eso?’”

Debido a que Lensa te permite elegir el género de tu avatar, incluida una opción para no binario, algunas personas trans celebraron la oportunidad de ver una versión de sí mismos que afirma su género.

¿Debería preocuparme por la privacidad?

Prisma Labs cube que Lensa no comparte ningún dato o información extraída de sus fotos con terceros, aunque su política de privacidad deja espacio para que lo haga.

También cube que solo usa las fotos que proporciona para generar avatares y elimina cada lote de fotos, junto con el modelo de aprendizaje automático entrenado a partir de sus imágenes, una vez que se completa el proceso.

Prisma Labs no está usando las fotos ni los modelos individualizados para entrenar una crimson de reconocimiento facial, dijo Usoltsev. Se negó a decir si Prisma Labs almacena datos basados ​​en sus fotos, pero dijo que la compañía mantiene el “mínimo”.

La verdadera preocupación por la privacidad de Lensa proviene de un ángulo diferente. La colección gigante de imágenes utilizada para entrenar la IA, llamada LAION, fue extraída de Web sin mucha discreción, dicen los expertos en IA. Eso significa que incluye imágenes de personas que no dieron su consentimiento. Un artista incluso encontró fotos de sus registros médicos privados en la base de datos Para verificar si las imágenes asociadas con usted se han utilizado para entrenar un sistema de IA, visite HaveIBeenTrained.com. (Este motor no guarda sus búsquedas de imágenes).

También existe la posibilidad de explotación y acoso. Los usuarios pueden subir fotos de cualquier persona, no solo de ellos mismos, y los retratos femeninos de la aplicación a menudo están desnudos o se muestran en poses sexuales. Esto parece suceder también con las imágenes de niños, aunque Lensa cube que la aplicación es solo para personas mayores de 13 años.

“El modelo Secure Diffusion fue entrenado en contenido de Web sin filtrar. Por lo tanto, refleja los sesgos que los humanos incorporan en las imágenes que producen”, dijo Lensa en sus preguntas frecuentes.

AI ahora puede crear cualquier imagen en segundos, trayendo maravillas y peligros

¿Por qué ha habido una reacción violenta de los artistas digitales?

Algunos creadores han adoptado con entusiasmo las imágenes de IA. Pero a medida que los avatares de Lensa se hicieron cargo de las redes sociales, muchos artistas digitales suplicaron a las personas que lo pensaran dos veces antes de dar dinero a la aplicación. Los “estilos” de Lensa se basan en el arte actual de personas reales, dicen los artistas, y esos profesionales no están siendo compensados.

“Nadie entiende realmente que un programa que toma el arte de todos y luego genera arte conceptual ya está afectando nuestros trabajos, en realidad”, dijo Jon Lam, un artista de la historia en la compañía de videojuegos Riot Video games.

El aprendizaje automático recrea patrones en imágenes, no obras de arte individuales, dijo Lensa en sus preguntas frecuentes.

Pero Lam dijo que algunos amigos perdieron sus trabajos después de que los empleadores usaran sus creaciones para entrenar modelos de inteligencia synthetic: los propios artistas ya no eran necesarios a los ojos de las empresas, dijo. En muchos casos, LAION extrajo imágenes con derechos de autor, dijo, y Prisma Labs se está beneficiando del trabajo de toda la vida de los artistas sin su consentimiento. Algunos creadores incluso han encontrado lo que parecen firmas de artistas imágenes internas generadas en Lensa.

“Los detalles percibidos como firmas se observan en estilos que imitan pinturas”, se lee en las preguntas frecuentes de Lensa. “Este subconjunto de imágenes, en la mayoría de los casos, viene con la firma del autor de la obra de arte”.

Si quieres ilustraciones tuyas que apoyen a los artistas tradicionales, encuentra a alguien native o busca en un sitio como Etsy y encarga un retrato, sugirió Lam.

“Veo un futuro realmente malo si no controlamos esto ahora”, dijo. “No quiero que eso suceda, no solo para los artistas, todos se ven afectados por esto”.