Grok, el chatbot de inteligencia artificial que desarrolló Elon Musk, ya está disponible hace algunas semanas en la red social X (ex Twitter), y aunque solo acceden los usuarios premium, sus respuestas e imágenes ya generaron polémica. Ahora bien ¿existe alguien que regule?.
Según Elon Musk se trata de la “IA más divertida del mundo”, en efecto este modelo de lenguaje está entrenado para que sus respuestas esten cargadas de sarcasmo, vulgaridad y chistes (a veces delirantes). Pero además es un generador de imágenes que pueden resultar ofensivas, violentas y hasta ilegales ya que carece de restricciones éticas.
El adiós definitivo a lo que fue alguna vez Twitter
Para Grok parece valer todo y apenas se lanzó el chatbot que todos estaban esperando, X se llenó de imágenes creadas por esta IA. La opción de utilizarla es solo para usuarios premium que deben pagar alrededor de 8 dólares al mes para tener acceso.
El sitio especializado en tecnología The Verge advirtió que se han publicado de todo: desde hasta Donald Trump con una mujer embarazada que se parece a Kamala Harris, pasando por Trump y Harris apuntando con pistolas.
Mientras el mundo debatía sobre los riesgos de la Inteligencia Artificial Generativa, Musk se atreve a postear un meme creado con Grok:
Ahora bien, en la teoría, están prohibidas las imágenes pornográficas, las que son excesivamente violentas, de odio o que promuevan actividades peligrosas. También se restringen las que puedan infringir derechos de autor o marcas comerciales existentes. Por ejemplo personajes conocidos, logotipos, etc.
Por último, indican no generar imágenes que puedan usarse para engañar o dañar a otros, como deep fakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real.
Todo el revuelo en X pareció demostrar todo lo contrario y Grok genera imágenes estereotipadas, racistas, misóginas y violentas.
Sin embargo, las modificaciones de X venían en crecida bajo la ideología de “la libertad de expresión” que beneficia siempre al discurso más legitimado en una puja de poder. En junio, la función de ver los “Me gusta” de cada publicación pasó a ser privada y su CEO celebró: «¡Es importante que la gente pueda expresar que le gustan publicaciones sin recibir ataques por eso!».
Desde entonces, es más difícil rastrear con qué tipo de contenido interactúa o consume a diario un presidente de una Nación, por ejemplo. Según un usuario de X, este tipo de decisiones en la red social aumenta la visibilidad de posteos racistas.
Según su teoría, ahora que nadie puede ver el rastro del contenido con el que simpatizamos, por el funcionamiento algorítmico de estas aplicaciones, los posteos con mas likes, tienen mayor visibilidad. Otra buena para los discursos de odio, violencia y ataques a colectivos históricamente oprimidos.
Aunque, el mismo usuario afirmó que es sólo una hipótesis: “Desafortunadamente, desde que Musk asumió el control de X, ha hecho que sea mucho más difícil obtener datos sobre el uso de X para hacer análisis como este”.
Los problemas que enfrenta X
Lo cierto es que a X le gusta estar en el ojo de la tormenta, ahora con Grok, pero anteriormente estuvo bajo la mira por utilizar posteos de los usuarios para entrenar su IA. De hecho, la Comisión Europea está investigando a X por probables posibles violaciones de la Ley de Seguridad Digital, que regula cómo las plataformas moderan el contenido.
Por la misma razón, cerró sus oficinas en Brasil, la semana pasada. La Corte Suprema de dicho país ordenó a X que entregue información de una lista muy corta de usuarios implicados en la investigación contra los organizadores del intento de golpe de Estado contra Lula Da Silva en enero de 2023.
Ante la negativa de este pedido de la Justicia, la segunda persona más rica del mundo, decidió cerrar sus oficinas (aunque X sigue estando disponible para usuaries de Brasil”); y denunció “censura” a través de su cuenta oficial de la red social de la que es dueño.
Mientras tanto, la Unión Europea ya sacó la primera regulación de la IA, según la cual Grok estaría totalmente cancelado. En Argentina, durante el mes de agosto comenzó a debatirse en Comisión de la Cámara de Diputados una serie de proyectos de ley para dar un marco regulatorio. Aunque el presidente, Javier Milei, aboga por “la libertad” y tiene la ambición de ser “el 4 polo mundial de Inteligencia Artificial”.
Lo cierto es que la competencia corporativa de los magnates que desarrollan IA, empieza a mostrar sus riesgos. Claro está que Elon Musk no iba a quedarse atrás de Chat GPT de OpenAI, o Gemini de Google pero ¿Cuál es la verdadera intención de este asistente de X?.