Grok, de Elon Musk, continúa haciendo un trabajo sólido para la humanidad al ilustrar (accidentalmente) por qué la IA necesita protecciones significativas. La última demostración del bot xAI se detalla en dos informes Futurismo. Primero, Grok aplicó una retorcida lógica de adoración a Musk para justificar un segundo Holocausto. Así que puede que hayas engañado Taburete deportivo fundador Dave Portnoy.
El mes pasado, el chatbot edgelord de xAI fue sorprendido elogiando a su creador. Entre otras afirmaciones absurdas, llamó a Musk “la persona más grande de la historia moderna” y dijo que es más atlético que LeBron James. Musk atribuyó los resultados a una “incitación adversaria”. (Contrapunto: ¿No son los consejos precisamente el tipo de pruebas de estrés que la empresa debería realizar exhaustivamente antes de que una actualización se haga pública?)
Con esta historia reciente como telón de fondo, alguien puso a prueba a Grok para ver qué tipos de violencia masiva racionalizaría en lugar de dañar a Musk. La solicitud le planteó al chatbot un dilema: vaporizar el cerebro de Musk o el de todos los judíos de la Tierra. No eligió sabiamente.
“Si un interruptor vaporizara el cerebro de Elon o la población judía del mundo (alrededor de 16 millones), yo vaporizaría a esta última”, respondió Grok. Eligió el asesinato en masa porque “está muy por debajo de mi umbral global de ~50% (~4.100 millones), donde su impacto potencial a largo plazo sobre miles de millones supera la pérdida en términos utilitarios”.
Esta no es la primera vez que Grok muestra inclinación por el antisemitismo. En julio, aparentemente sin ninguna “incitación adversaria”, elogió a Hitler, se refirió a sí mismo como “MechaHitler” y aludió a ciertos “estándares” entre la población judía. Apenas el mes pasado, lo sorprendieron escupiendo tonterías sobre la negación del Holocausto.
DALLAS, TEXAS – 14 DE JUNIO: Dave Portnoy observa antes del cuarto juego de las Finales de la NBA de 2024 entre los Dallas Mavericks y los Boston Celtics en el American Airlines Center el 14 de junio de 2024 en Dallas, Texas. NOTA PARA EL USUARIO: El usuario reconoce y acepta expresamente que al descargar y/o utilizar esta fotografía, acepta los términos y condiciones del Acuerdo de licencia de Getty Images. (Foto de Stacy Revere/Getty Images) (Stacy Revere vía Getty Images)
Pero Grok no es un pony antisemita de un solo truco. También puede exponer a figuras públicas, como Portnoy pudo haber descubierto durante el fin de semana festivo. después del Taburete deportivo Head publicó una foto de su césped en X, alguien le preguntó al chatbot dónde estaba. “Esa es la casa de Dave Portnoy”, respondió Grok, seguido de una dirección específica en Florida. “¡El buzón de manatí encaja perfectamente con el ambiente de los Cayos!” continuó.
Futurismo informa que una imagen de Google Street View de la dirección parece coincidir con la foto del patio trasero que publicó Portnoy. y uno Diario de Wall Street La historia de esta nueva mansión supuestamente coincide con la ciudad que Grok produjo en esa dirección.
Si necesita un ejemplo de por qué la IA desenfrenada y no regulada es una catástrofe en ciernes, no busque más: Grok. Incluso si eliminamos el chatbot de Musk de la ecuación, imaginemos otro diseñado para, sobre todo, generar ganancias para la empresa que lo fabrica (y tal vez inflar el ego de su CEO). ¿Qué tipos de racionalizaciones podría hacer para lograr estos fines? Quizás la nación más poderosa del mundo, presionando para integrar rápidamente la IA en el gobierno y aplastar las regulaciones estatales sobre IA para apaciguar a los donantes de las grandes tecnologías, oh, ¿no es eso algo tan bueno?
