Midjourney ha detenido las pruebas gratuitas con su generador de imágenes con IA luego de los casos de las imágenes virales del papa que viste a la moda y de Donald Trump siendo detenido. En ambos casos, las imágenes generadas por usuarios y compartidas ampliamente en internet fueron creadas a través de Midjourney.
Las pruebas gratuitas fueron descontinuadas por una "extraordinaria demanda y abuso de las pruebas", según dijo el martes 28 de marzo el CEO de Midjourney, David Holz. Él mismo aseguró, en una declaración dada en Discord y retomada por The Washington Post, que la empresa está teniendo problemas para determinar las política de contenido sobre generar imágenes de personas reales.
El tema de fondo es que Midjourney se ha hecho tan bueno generando imágenes que está facilitando la creación de imágenes que, dado su realismo, fácilmente podrían contribuir por sí mismas a la propagación de información falsa. No parece que la empresa viera en el horizonte cercano la avanzada capacidad de la Inteligencia Artificial y su potencial mal uso; más preocupante aún es que no parece que Midjourney tenga claro cómo proseguir.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
A decir de Holz, en un futuro habrá herramientas de moderación que podrán encontrar imágenes generadas que fueron generadas violando las políticas de uso, aunque queda claro que en este momento las reglas y la moderación no están funcionando con el máximo nivel de refinamiento.
Midjourney por ahora se mantendrá como un servicio de paga. Los usuarios que quieran utilizarle para generar imágenes deben pagar entre 10 y 60 dólares.
