Apple y Google están siendo arrastrados al escándalo en torno al chatbot de IA de X, que continuó desnudando virtualmente a mujeres en imágenes sin su consentimiento esta semana.
en un carta Al director ejecutivo de Apple, Tim Cook, y al director ejecutivo de Google, Sundar Pichai, los senadores Ron Wyden (D-OR), Ben Ray Lujan (D-NM) y Ed Markey (D-MA) escribieron que “los miembros de la Generación X de estas representaciones dañinas y probablemente ilegales de mujeres y niños han mostrado un completo desprecio por los términos de distribución de sus tiendas”. Los usuarios de X identificaron varios casos en los que Grok desnudó o sexualizó a aparentes menores en imágenes creadas por IA.
Los senadores señalan las propias políticas de las tiendas de aplicaciones que explican por qué la aplicación debería eliminarse. Los términos de servicio de Google dicen que las aplicaciones están sujetas a eliminación si no impiden que los usuarios “creen, carguen o distribuyan contenido que facilite la explotación o el abuso de niños” o representen a niños “de una manera que pueda resultar en la explotación sexual de niños”. Apple prohíbe las aplicaciones que son “ofensivas” o “simplemente aterradoras”. Apple y Google no respondieron de inmediato a las solicitudes de comentarios sobre si X cumplió con sus políticas y si planeaban eliminar la aplicación.
No eliminar X de las tiendas de aplicaciones mostraría un doble rasero y socavaría los argumentos de las empresas a favor de su control sobre las tiendas de aplicaciones, escriben los legisladores. Ambas empresas eliminado ICEBlock y Red Dot de tus tiendas tras presiones del gobierno. Las aplicaciones se utilizaron para informar de forma anónima avistamientos a agentes del Servicio de Inmigración y Control de Aduanas (ICE). “A diferencia de la generación de contenido repugnante de Grok, estas aplicaciones no crearon ni albergaron contenido dañino o ilegal y, sin embargo, basándose enteramente en las afirmaciones de la Administración de que representaban un riesgo para las autoridades de inmigración, las eliminaron de sus tiendas”, escribieron los senadores.
También advirtieron que la inacción “socavaría sus afirmaciones en público y ante los tribunales de que sus tiendas de aplicaciones brindan una experiencia de usuario más segura que permitirles descargar aplicaciones directamente a sus teléfonos. Este principio ha sido central en su defensa contra las reformas legislativas para aumentar la competencia en las tiendas de aplicaciones y sus defensas contra las afirmaciones de que sus tiendas de aplicaciones abusan de su poder de mercado a través de sus sistemas de pago”.
