Meta para descubrir y clasificar más publicaciones generadas por IA a medida que se acercan las elecciones – Orange County Register

Escrito por Kurt Wagner y Jillian Deutsch | Bloomberg

Meta plataformas Inc. Al etiquetar más publicaciones creadas con herramientas de inteligencia artificial como parte de un esfuerzo más amplio para prevenir la difusión de información errónea y engaños en Facebook, Instagram y Threads durante un año electoral crucial.

Meta está trabajando con otras empresas de tecnología para crear estándares técnicos comunes para identificar este tipo de publicaciones generadas por IA, incluida la adición de marcas de agua invisibles y metadatos a las imágenes cuando se crean, dijo la compañía el martes. Luego, Meta construye sistemas de software para detectar estos marcadores invisibles y poder clasificar el contenido generado por IA incluso si es creado por un servicio de la competencia.

Ver también: Junta de Supervisión Fiscal insta al Meta a repensar su política respecto a medios manipulados

Nick Clegg, jefe de asuntos globales de Meta, dijo que espera que en los próximos meses Meta pueda detectar y clasificar imágenes creadas utilizando herramientas de varias otras empresas centradas en la IA, incluidas Google de Alphabet, OpenAI, Microsoft y Adobe. -Vuelo y Shutterstock.

2024 es un año electoral ajetreado, con votantes en docenas de países, incluidos Estados Unidos, India, Sudáfrica e Indonesia, acudiendo a las urnas. Si bien la desinformación ha sido un desafío para los votantes y candidatos durante años, se ha visto reforzada por la aparición de herramientas de inteligencia artificial generativa que pueden crear imágenes, textos y clips de audio falsos y convincentes.

Ver también: X está deteniendo algunas búsquedas de Taylor Swift mientras fotos sinceras y viscerales se vuelven virales

“No quiero fingir ni por un momento que esto cubrirá todas nuestras bases o irá más allá de todo lo mencionado y punteará todo lo que se necesita”, dijo Clegg en una entrevista con Bloomberg. “Pero un enfoque defectuoso no debería ser una excusa para la inacción”.

Inicialmente, el sistema Meta solo podrá detectar imágenes generadas por IA generadas por herramientas de otras empresas, no audio ni video. También se perderán las imágenes creadas por empresas que no siguen los estándares de la industria o que han sido eliminadas de las etiquetas, aunque Meta está trabajando en una forma separada de detectar esas imágenes automáticamente.

El progreso en la detección de deepfake mediante IA es una máxima prioridad para Clegg mientras Meta se prepara para las elecciones, incluso en los EE. UU. El mes pasado, en el Foro Económico Mundial en Davos, Suiza, Clegg dijo que crear un estándar industrial en torno a las marcas de agua era “la tarea más urgente que enfrentamos hoy”.

El mes pasado, un mensaje de audio editado por el presidente estadounidense Joe Biden alarmó a los expertos en desinformación, y muchos advirtieron que el contenido generado por IA podría desempeñar un papel fundamental en las próximas elecciones si no se etiqueta o elimina rápidamente. Clegg dijo que era optimista de que eso no sucedería dado el nivel de atención que se presta al tema.

Más en las redes sociales: Meta, TikTok, X y otros directores ejecutivos de redes sociales testifican en una acalorada audiencia en el Senado sobre la explotación infantil

Dijo que los equipos de los candidatos presidenciales estarían atentos a los deepfakes y “lo gritarán en la prensa y nos contestarán el teléfono”. Añadió que aunque Meta no verifica la autenticidad de las publicaciones originales creadas por políticos, etiquetará las publicaciones generadas por IA independientemente de quién las comparta.

El lunes, la Junta de Supervisión de Meta publicó una crítica a la política de medios gamificados de Meta, argumentando que era demasiado limitada y que la compañía necesitaba hacer un mejor trabajo al etiquetar las publicaciones generadas por IA en lugar de intentar eliminarlas. Clegg dijo que está en gran medida de acuerdo con el análisis de la junta y cree que las actualizaciones de las marcas de agua son un paso en la dirección correcta.

Ver también: El aumento de 197 mil millones de dólares de Meta en un día es el mayor en la historia del mercado de valores

Con el tiempo, a medida que Internet se llene de material generado por IA, la industria necesitará abordar el problema desde el otro lado: etiquetando también los medios legítimos, dijo Clegg.

“Vamos a necesitar tener una discusión a nivel comunitario, o ciertamente a nivel industrial, sobre el otro extremo del telescopio, que es cómo informar a los usuarios sobre la veracidad o veracidad del contenido no sintético”. él dijo.