En 2023, la revista literaria de ciencia ficción Clarkesworld dejé de aceptar Nuevas solicitudes porque muchas de ellas son generadas por inteligencia artificial. Por lo que los editores pudieron ver, muchos remitentes pegaron las pautas detalladas de la historia de la revista en la IA y enviaron los resultados. Y no estaban solos. Otras revistas de fantasía también lo tienen. Mencionaste un gran número A partir de envíos generados por inteligencia artificial.
Este es sólo un ejemplo de la tendencia. El antiguo sistema se basaba en la dificultad de la escritura y la percepción para limitar el tamaño. La IA generativa abruma el sistema porque los humanos del lado receptor no pueden seguir el ritmo.
Esto sucede en todas partes. Los periódicos están siendo inundados por la inteligencia artificial Cartas al editorcomo es Revistas academicas. Los legisladores se han visto inundados de inteligencia artificial Comentarios fundacionales. Los tribunales de todo el mundo están llenos de inteligencia artificial limadurasEspecialmente por personas que se representan a sí mismas. Las conferencias sobre inteligencia artificial son inundado Con trabajos de investigación generados por inteligencia artificial. redes sociales Él es inundado con El flagelo de la inteligencia artificial. en música, Software de código abierto, educación, periodismo de investigación y EmpleoEs la misma historia.
Al igual que con la respuesta inicial a Clarkesworld, algunas de estas organizaciones han cerrado sus presentaciones. Otros se han enfrentado a un ataque de IA con alguna respuesta defensiva, que a menudo incluye el uso de una contra-IA. académico Revisores pares La IA se utiliza cada vez más para evaluar artículos que pueden haber sido generados por ella. Las plataformas de redes sociales recurren a Supervisora de Inteligencia Artificial. Los sistemas judiciales utilizan inteligencia artificial para Clasificación y proceso Volúmenes de litigios cobrados por AI. Los empleadores recurren a Herramientas de inteligencia artificial Revisar las solicitudes de los candidatos. No sólo los profesores utilizan la inteligencia artificial trabajos de clase y Gestión de exámenespero k comentario Herramienta para estudiantes.
Todas estas son carreras armamentistas: iteraciones rápidas y agresivas de la aplicación de una tecnología común a propósitos opuestos. Es evidente que muchas de estas carreras armamentistas tienen efectos perjudiciales. La sociedad sufre si los tribunales se llenan de casos triviales fabricados por inteligencia artificial. También resulta perjudicial si las medidas establecidas de rendimiento académico (publicaciones y citas) van a parar a los investigadores más dispuestos a presentar de manera fraudulenta disertaciones y artículos escritos utilizando IA, en lugar de a aquellos cuyas ideas tienen el mayor impacto. En última instancia, el temor es que el comportamiento fraudulento permitido por la IA socave los sistemas e instituciones de los que depende la sociedad.
Ventajas de la inteligencia artificial
Sin embargo, algunas carreras armamentistas de IA tienen sorprendentes ventajas ocultas, y la esperanza es que al menos algunas organizaciones puedan cambiar de manera que las hagan más fuertes.
Parece probable que la ciencia se fortalezca gracias a la IA, pero se enfrenta a un problema cuando la IA comete errores. Considere un ejemplo parloteo,Filtrado de frases generadas por IA en artículos científicos.
Que un científico utilice la IA para ayudar a escribir un artículo académico puede ser algo bueno, si se utiliza con cuidado y discreción. La inteligencia artificial se está convirtiendo cada vez más en un herramienta básica En investigación científica: para revisión de literatura, programación, codificación y análisis de datos. Para muchos, se ha convertido en un apoyo crucial para la expresión y comunicación académica. Antes de la IA, los investigadores mejor financiados podían contratar humanos para que les ayudaran a escribir sus artículos académicos. Para muchos autores cuyo idioma principal no es el inglés, este tipo de ayuda ha resultado costoso. necesidad. La inteligencia artificial lo proporciona para todos.
En la ficción, las obras generadas por IA que se envían de manera fraudulenta causan daño, tanto a los autores humanos que ahora están sujetos a una mayor competencia como a aquellos lectores que pueden sentirse engañados después de leer sin saberlo el trabajo de una máquina. Pero algunos medios pueden aceptar publicaciones basadas en IA con una divulgación adecuada y bajo ciertas pautas, y aprovechar la IA para evaluarlas según criterios como originalidad, relevancia y calidad.
Otros pueden rechazar el trabajo producido por la IA, pero esto tendrá un costo. Es poco probable que algún editor humano o tecnología pueda mantener la capacidad de distinguir entre escritura humana y escritura automática. En cambio, los medios que quieran publicar exclusivamente con humanos deberán limitar los envíos a un grupo de autores en los que confíen para que no utilicen IA. Si estas políticas fueran transparentes, los lectores podrían elegir el formato que prefirieran y leer felizmente en uno o ambos tipos de medios.
Tampoco vemos ningún problema si un solicitante de empleo utiliza la IA para pulir su currículum o escribir mejores cartas de presentación: los ricos y privilegiados han tenido acceso a asistencia humana para estas cosas desde hace mucho tiempo. Pero va más allá de los límites cuando se utiliza la inteligencia artificial mentir Sobre identidad y experiencia, o el hace trampa En entrevistas de trabajo.
Asimismo, la democracia requiere que sus ciudadanos puedan expresar sus opiniones a sus representantes o entre sí a través de un medio como un periódico. Los ricos y poderosos han podido durante mucho tiempo contratar escritores para convertir sus ideas en prosa convincente y, en nuestra opinión, que la IA brinde esta asistencia a más personas es algo bueno. En este caso, los errores y sesgos de la IA pueden ser perjudiciales. Es posible que los ciudadanos estén utilizando la IA para algo más que un simple atajo para ahorrar tiempo; Esto puede ser para aumentar sus conocimientos y habilidades, y para hacer declaraciones sobre factores históricos, legales o políticos que no se espera que verifiquen de forma independiente.
refuerzo de fraude
Lo que no queremos es que los lobbistas utilicen la IA en astutas campañas de marketing, escribiendo múltiples mensajes y haciéndolos pasar por opiniones individuales. Esto también es una orden. Problema más antiguo Esa inteligencia artificial está empeorando.
Lo que distingue aquí lo positivo de lo negativo no es ningún aspecto inherente a la tecnología, sino más bien la dinámica de poder. La misma tecnología que reduce el esfuerzo requerido por un ciudadano para compartir su experiencia de vida con un legislador también permite que los intereses corporativos tergiversen al público a escala masiva. La primera es una aplicación de inteligencia artificial que iguala el poder y mejora la democracia participativa; Esta última es la aplicación de concentración de energía que lo amenaza.
En general, creemos que la asistencia bíblica y cognitiva, que durante mucho tiempo ha estado disponible para los ricos y poderosos, debería estar disponible para todos. El problema surge cuando los sistemas de inteligencia artificial facilitan el fraude. Cualquier respuesta debe equilibrar la adopción de esta nueva democracia en el acceso a la información con la prevención del fraude.
No hay manera de detener esta tecnología. Los sistemas de IA de alta capacidad están ampliamente disponibles y pueden ejecutarse en una computadora portátil. Las directrices éticas y los límites profesionales claros (para quienes actúan de buena fe) pueden ayudar. Pero no habrá absolutamente ninguna manera de impedir que los escritores académicos, los solicitantes de empleo o los ciudadanos utilicen estas herramientas, ya sea como asistencia legítima o para cometer fraude. Esto significa más comentarios, más mensajes, más solicitudes y más envíos.
El problema es que quienquiera que sea el receptor de este diluvio impulsado por la IA no puede soportar el creciente volumen. Lo que puede ayudar es el desarrollo de herramientas de IA de asistencia que beneficien a las organizaciones y a la sociedad, y al mismo tiempo reduzcan el fraude. Esto puede significar adoptar el uso de la asistencia de la IA en estos sistemas adversarios, aunque la IA defensiva nunca alcanzará la superioridad.
Equilibrar los daños con los beneficios
La comunidad de ciencia ficción ha estado lidiando con la IA desde 2023. Finalmente, Clarkesworld reabrió las presentaciones. afirmar Tiene una forma conveniente de separar las historias escritas por humanos y la inteligencia artificial. Nadie sabe durante cuánto tiempo ni en qué medida esto seguirá funcionando.
La carrera armamentista continúa. No existe una forma sencilla de saber si los beneficios potenciales de la inteligencia artificial superarán sus daños, ahora o en el futuro. Pero como sociedad, podemos influir en el equilibrio entre los daños que causan y las oportunidades que presentan a medida que avanzamos en el cambiante panorama tecnológico.
Bruce SchneierProfesor Asistente de Políticas Públicas, Escuela Kennedy de Harvard y Nathan Sanders,Afiliado, Centro Berkman Klein para Internet y Sociedad, Universidad de Harvard
Este artículo fue republicado desde Conversación Bajo licencia Creative Commons. Leer Artículo original.
