El incorrecto uso de la inteligencia artificial está proliferando a medida que avanzan las posibilidades que esta tecnología nos ofrece. Uno de los temas más espinosos es sin duda el de la generación de imágenes, videos y audios con fines deshonestos. Todo ello sin entrar en asuntos como el uso de la IA para engañar o manipular la opinión pública.
Ciertas apps de IA generativa nos advierten de las líneas que no deberíamos de cruzar al hacer uso de determinas funciones, pero hasta ahora, no existían herramientas de alcance global y generalizado para controlar el contenido que el usuario acababa creando.
Se podrá denunciar el contenido ofensivo
Esta actualización de políticas obligará a las apps que utilicen IA a cumplir con directrices estrictas, y nace, principalmente, con el objetivo de proteger a los usuarios del contenido generado por este tipo de aplicaciones.
A partir del 2024, los desarrolladores que incluyan generadores de IA en sus aplicaciones también tendrán que incluir herramientas que posibiliten reportar cualquier tipo de contenido creado con su software.
Google ha publicado un post donde recalca que “de acuerdo con el compromiso para con las prácticas responsables en torno a la IA, queremos garantizar que el contenido generado mediante inteligencia artificial sea seguro para el público, y ayudar a que el feedback de los usuarios sea tomado en cuenta.” La idea es que los desarrolladores hagan uso de dichas valoraciones para mejorar los filtros que utilizan en sus aplicaciones.
Esta nueva política funcionará de manera similar al sistema que Google ya utiliza para el contenido generado por los propios usuarios, lo que significa que se podrá reportar cualquier abuso sin salir de la aplicación, y se aplicará a tres tipos de generadores IA, abarcando toda combinación de texto, voz e imagen posible:
- Chatbots que generan texto.
- Aplicaciones que generan imágenes a partir de voz, texto u otras imágenes de muestra.
- Apps que producen voces o videos que simulan la realidad.
Entre los ejemplos del contenido que Google considerará como infracciones encontramos los deepfakes de contenido sexual, la suplantación de voz con intención de estafa, la propaganda electoral engañosa, todo contenido que promocione el bullying, o la creación de código malware, entre otros.
En cambio, Google considerará exentas las aplicaciones que albergan contenido creado con inteligencia artificial, siempre y cuando no dispongan de un generador integrado. Tampoco se tendrán en cuenta otras apps como las que resumen contenido humano (por ejemplo, resumir textos o videos de YouTube), así como las dirigidas a la productividad y que utilicen la IA para mejorar la experiencia de usuario.
De este modo, se pretende asistir a los desarrolladores a rastrear y combatir la creación de material restringido, otorgándoles un mayor control sobre sus plataformas.
