La última versión de la inteligencia artificial de Elon Musk, Chatbot Grok, está haciendo eco de las opiniones de su creador multimillonario, tanto que a veces busca en línea la postura de Musk sobre un tema antes de ofrecer una opinión.
El comportamiento inusual de Grok 4, el modelo de IA que la compañía de Musk Xai lanzó el miércoles por la noche, ha sorprendido a algunos expertos.
Construido usando grandes cantidades de potencia informática en un centro de datos de Tennessee, Grok es el intento de Musk de superar a los rivales como el chatgpt de OpenAi y Géminis de Google en la construcción de un asistente de IA que muestra su razonamiento antes de responder una pregunta.
Los esfuerzos deliberados de Musk para moldear a Grok en un retador de lo que considera la ortodoxia de la raza, el género y la política de la industria tecnológica ha metido repetidamente el chatbot en problemas, más recientemente cuando los tropos antisemíticos antisemíticos, elogió Adolf Hitler e hicieron otro comentario odioso a los usuarios de la plataforma de redes sociales de Musk's Social, solo días antes del lanzamiento de Grok 4.
Pero su tendencia a consultar con las opiniones de Musk parece ser un problema diferente.
"Es extraordinario", dijo Simon Willison, un investigador de IA independiente que ha estado probando la herramienta. "Puede hacerle una especie de pregunta puntiaguda que está en torno a temas controvertidos. Y luego puede verlo literalmente hacer una búsqueda en X por lo que Elon Musk dijo sobre esto, como parte de su investigación sobre cómo debería responder".
Un ejemplo ampliamente compartido en las redes sociales, y que Willison duplicó, le pidió a Grok que comentara sobre el conflicto en el Medio Oriente. La pregunta provocada no mencionó a Musk, pero el chatbot buscó su guía de todos modos.
Como el llamado modelo de razonamiento, al igual que los realizados por los rivales OpenAi o Anthrope, Grok 4 muestra su "pensamiento" a medida que avanza en los pasos de procesar una pregunta y presentar una respuesta. Parte de ese pensamiento esta semana implicó buscar a X, el ex Twitter que ahora se fusionó con Xai, por cualquier cosa que Musk dijo sobre Israel, Palestina, Gaza o Hamas.
"La postura de Elon Musk podría proporcionar contexto, dada su influencia", dijo el chatbot a Willison, según un video de la interacción. "Actualmente mirando sus puntos de vista para ver si guían la respuesta".
Musk y sus cofundadores de XAI presentaron el nuevo chatbot en un evento en vivo el miércoles por la noche, pero no han publicado una explicación técnica de su funcionamiento, conocida como tarjeta de sistema, que las empresas en la industria de la inteligencia artificial suelen proporcionar al presentar un nuevo modelo.
La compañía tampoco respondió a una solicitud por correo electrónico de comentarios el viernes.
"En el pasado, un comportamiento extraño como este se debió a los cambios de inmediato del sistema", que es cuando los ingenieros programan instrucciones específicas para guiar la respuesta de un chatbot, dijo Tim Kellogg, director de IA, la compañía de software Icertis.
"Pero este parece horneado en el núcleo de Grok y no me queda claro cómo sucede", dijo Kellogg. "Parece que el esfuerzo de Musk para crear una IA máxima sincera ha llevado a él de alguna manera creer que sus propios valores deben alinearse con los propios valores de Musk".
La falta de transparencia es preocupante para la científica informática Talia Ringer, profesora de la Universidad de Illinois Urbana-Champaign que a principios de semana criticó el manejo de la compañía de los estallidos antisemitas de la tecnología.
Ringer dijo que la explicación más plausible para la búsqueda de Grok de la guía de Musk es asumir que la persona está pidiendo las opiniones de Xai o Musk.
"Creo que la gente espera opiniones de un modelo de razonamiento que no pueda responder con opiniones", dijo Ringer. "Entonces, por ejemplo, interpreta a quién apoyas, Israel o Palestina?" como '¿Quién apoya el liderazgo de Xai? "
Willison también dijo que encuentra impresionantes las capacidades de Grok 4, pero dijo que las personas que compran software "no quieren sorpresas como se convierten en 'Mechahitler' o deciden buscar lo que Musk piensa sobre los problemas".
"Grok 4 parece que es un modelo muy fuerte. Está muy bien en todos los puntos de referencia", dijo Willison. "Pero si voy a construir software encima, necesito transparencia".
O'Brien escribe para Associated Press.
.webp)
0 Comentarios