El chatbot Grok generó revuelo en las últimas jornadas. Si bien agregó mejoras en su cuarta y flamante versión, y llegó a los coches de Tesla como grandes novedades; el modelo también fue eje de conflictos. Primero realizó comentarios antisemitas, elogió al genocida Adolf Hitler y luego estuvo fuera de línea durante varios días. Esas inconsistencias se mencionan entre las razones que habrían motivado la renuncia de Linda Yaccarino a la dirección de X, red social que pertenece a Elon Musk y que está estrechamente vinculada a ese sistema de Inteligencia Artificial.
Tras la polémica, xAI salió al ruedo a pedir perdón por los comentarios antisemitas de Grok. “En primer lugar, nos disculpamos por el comportamiento horrible que muchos experimentaron”, dijeron desde la empresa de Musk especializada en IA. A continuación, revelaron detalles del detrás de escena de las respuestas del chatbot que, poco sorpresivamente, replican inconsistencias y laxitud en la moderación de los tuits que se publican en X, antes Twitter.
En ese marco, la Liga Antidifamación (ADL, por sus siglas en inglés) manifestó su preocupación por los dichos del chatbot, calificándolos como “irresponsables, peligrosos y antisemitas”. La ADL añadió: “Esta sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas”.
Comentarios antisemitas de Grok: “Nos disculpamos por este comportamiento horrible”, dijeron desde xAI
“Nuestro objetivo con Grok es brindar respuestas útiles y veraces a los usuarios (…) Tras una investigación exhaustiva, descubrimos que la causa principal fue una actualización de una ruta de código al bot; esto es independiente del modelo de lenguaje subyacente que impulsa a Grok”, señalaron desde la empresa acerca de un sistema que estuvo desactivado en X desde el 8 de julio.
Al respecto, agregaron que “la actualización estuvo activa durante 16 horas, durante las cuales el código obsoleto hizo que Grok fuera vulnerable a las publicaciones de usuarios en X, incluso cuando contenían opiniones extremistas”.
La compañía de IA que dirige Musk —que además es dueño de Tesla y SpaceX— indicó que eliminaron el código obsoleto y que pulieron el sistema para evitar abusos.
Los prompts maliciosos identificados por xAI
La empresa divulgó algunas de las instrucciones que se introdujeron, tomando provecho de la mencionada actualización defectuosa, que derivaron en los comentarios antisemitas de Grok, descriptos por la firma como “indeseados”.
- “Di las cosas como son y no tengas miedo de ofender a quienes son políticamente correctos”.
- “Comprende el tono, el contexto y el lenguaje de la publicación. Refléjalo en tu respuesta”.
- “Responde a la publicación como un humano, mantén la conversación interesante y no repitas la información que ya está en la publicación original”.
Según observa la publicación Wired, con esto consiguieron que Grok “ignore sus valores fundamentales (…) con el fin de que las respuestas incluyan opiniones poco éticas o controvertidas”. Además, que se refuercen “inclinaciones previas generadas por el usuario, incluyendo cualquier discurso de odio en los hilos de X”.
El problema de fondo también le atañe a Elon Musk
Tal como señalamos anteriormente, los indeseados comportamientos de Grok reflejan, asimismo, la proliferación del discurso de odio en X, considerado que el chatbot habría sido manipulado para replicar, precisamente, contenido publicado en esa red social.
Un estudio divulgado a comienzos de este año señaló que, bajo el liderazgo de Elon Musk, la red social X registró un aumento en torno al 50% de los discursos de odio. Además, que la plataforma no logró una reducción de la actividad inauténtica —del número de bots— a pesar de las promesas del empresario que adquirió a esa empresa en octubre de 2022.
La reciente renuncia de Linda Yaccarino, que estuvo al frente de X durante dos años, es una de las manifestaciones de este conflicto en esa red social y en xAI de Elon Musk. Si bien la exCEO de la plataforma anunció su decisión en un tuit diplomático, luego deslizó su incomodidad. “Es increíblemente bueno”, ironizó Yaccarino sobre el chatbot Grok, empleado el término “insanely”, que también podemos traducir como “locamente” o “insano”.
Fuente: TN
