Las ambiciones de Baby Grok de Xai apuntan a un chatbot amigable para los niños

¿Baby Grok es un primo lejano a Little Grogu o Baby Groot? No, desafortunadamente, es algo mucho más preocupante. La oferta de Baby Grok de Xai es el último intento de la compañía de expandir sus servicios de IA, y esta vez, el aturdido, “Memelord” AI se ofrece a los niños. Xai quiere simplificar su herramienta Grok para los niños, y aunque no hay motivos ni necesidad de tal expansión, se cree que la compañía de Musk avanza con este objetivo después de que su “modo infantil” en la aplicación no pudo hacer que su plataforma sea amigable para los niños.

Después de su reciente lanzamiento de personajes de IA en la aplicación, muchos de los cuales fueron extremadamente inapropiados a pesar de la calificación de más de 12 de la aplicación en varias plataformas, la compañía recibió muchas críticas por exponer a los niños a contenido dañino. En lugar de frenar la libertad de Grok, Musk está trabajando para introducir herramientas de inteligencia artificial para niños que, con suerte, se saltarán los tonos coquetos mientras interactúan con los niños.

Imagen: Pexels

Se espera que el baby grok de Xai sea amigable para los niños de IA

Grok es el nombre extraño pero apto de La herramienta AI de Elon Musk, diseñada por su startup xai. La herramienta AI se ha integrado completamente en los servicios de X/Twitter, pero también funciona como una aplicación independiente que los usuarios pueden descargar y usar para saciar su curiosidad sobre varios temas. A propósito, Grok está estructurado para ser más sin filtro y sarcástico en su enfoquey aunque sus capacidades siempre han proporcionado una buena risa para los usuarios, también ha sido el centro de varios percances.

Desde llamar a Musk “el principal dispersión de información errónea en X” hasta arrojar contenido racista y antisemita y llamarse a sí mismo “Mechahitler”, Grok ha demostrado constantemente que no se ejecuta en parámetros rígidos en el mismo grado que otras herramientas de IA hacen. Si bien esto se ha celebrado en algunos casos, también ha resultado en resultados inapropiados.

Más recientemente, Grok ha sido criticado nuevamente por su contenido ampliamente inapropiado y personajes de temática adulta dentro de su aplicación.

¿Qué llevó a Xai a anunciar a Baby Grok?

XAI recientemente actualizó su herramienta de IA con la última versión titulada Grok 4. Musk anunció el lanzamiento y lo comparó con un “niño Super Genius”. Agregó que era capaz de desempeñarse en el “nivel de doctorado” en múltiples áreas de experiencia, generando respuestas profundas y bien analizadas para sus usuarios. El elogio de Musk fue interminable, ya que también indicó que la IA estaba tan avanzada que pronto estaría desarrollando nuevas tecnologías a más tardar el próximo año.

Si bien aún no tenemos los resultados de estos avances, Xai también tomó la controvertida decisión de presentar a los compañeros de IA sus servicios. Como se esperaba, estos compañeros adquirieron tonos muy inapropiados y personajes sexuales, incluso apareciendo en lencería en algunos casos. El personaje “ANI”, por ejemplo, era un personaje de estilo de anime con connotaciones abiertamente sexualizadas. El Centro Nacional de Explotación Sexual de EE. UU. Probó los personajes y descubrió que podían presentar ese contenido de explotación con una impulso mínimo.

Si bien esto podría ser lo que algunos fanáticos de la IA querían, muchos otros se quejaron de que el Grok de Xai no era seguro para los niños, a pesar de que la aplicación estaba calificada para ellos. Muchos también señalaron que incluso con el “modo para niños” habilitado, este contenido inapropiado todavía era accesible para ellos. Así llegó el anuncio del trabajo de Xai en Baby Grok, una alternativa de IA amigable para los niños para curiosas mentes jóvenes.

¿Cuál es el propósito de un Grok amigable para los niños?

XAI no es la primera compañía en considerar el diseño de herramientas de IA para niños. Hay muchas aplicaciones de aprendizaje y juego que se están desarrollando utilizando mecanismos de IA, diseñados para ayudar a los niños a aprender y desarrollarse mejor. La herramienta Baby Grok de Xai será una extensión de las capacidades actuales de la compañía en una dirección similar, lo que permite a los niños aprender y educarse utilizando la última tecnología en el mercado en este momento.

La propuesta del chatbot Baby Grok puede sonar bien en teoría, pero Xai apenas ha logrado a prueba de adultos su plataforma. Teniendo en cuenta las muchas formas en que los usuarios pueden explotar la herramienta y hacer que publique resultados controvertidos, es bastante arriesgado presentar la herramienta a los niños y esperar que no sean extraviados por ella.

Si bien las ambiciones de Xai para un Grok amigable para los niños pueden ser un intento genuino de crear una herramienta confiable para los niños, dadas las circunstancias que rodean su anuncio, la herramienta parece ser un intento insensible de controlar el daño causado por Grok en los últimos meses. Esta es una razón extremadamente corta para comenzar a trabajar en una aplicación de IA para niños, ya que hay muchas consideraciones y protocolos de seguridad que deben entenderse antes de que dicha herramienta pueda ser lanzada.

¿Son una buena idea las herramientas de IA para niños?

Muchos padres quieren que sus hijos tengan una ventaja sobre el uso de herramientas de IA, considerando que su presencia está remodelando vidas y futuros, pero es ideal monitorear su uso de IA y elegir una alternativa con un mejor historial de proporcionar resultados seguros. Hay ciertas herramientas de IA que han sido diseñadas específicamente para niños, y estas proporcionan exclusivamente contenido educativo que es relevante para ellos.

Las herramientas de IA de uso general pueden tener algunos mecanismos de seguridad para hacer que la plataforma sea más segura para los niños, pero teniendo en cuenta no están diseñados para filtrar y proporcionar el contenido adecuado para los niños.es más probable que algún contenido de adultos se deslice a través de sus puertas. Musk no reveló ningún detalle sobre el chatbot de Grok para niños o qué tipo de medidas de seguridad se establecerán, por lo que tendremos que esperar para determinar si la herramienta es realmente segura para los niños.

Por ahora, recomendaremos que los padres intenten mantener a sus hijos alejados de todas las herramientas de IA, ya sea que se llamen o no Baby Grok o algo igualmente inocuo, y aprendan a través de medios más tradicionales.

Suscríbete a Technowize Para obtener más actualizaciones sobre el panorama de la tecnología y los cambios que ocurren dentro de ella mientras hablamos.