- Miles de japoneses se despiden de dos pandas que regresarán a China
- Hallan restos de tres mastodontes de más de 11 mil años en los andes de Perú
- Autoridades reducen a 11 los muertos por derrumbe de mina ilegal en Indonesia
- Trump amenaza con procesar a Google por mostrar solo "malas noticias" sobre él
- Harris va a frontera con México para sumar puntos en migración
- La inflación vuelve a moderarse en EEUU en agosto, a poco de presidenciales
- Una sudafricana celebra sus 118 años y se sitúa entre las personas más longevas del mundo
- Cambio climático, sequía y crimen: el cóctel que incendia Sudamérica
- El consentimiento, en el centro del juicio por violaciones en Francia
- Naomi Campbell, sancionada en el Reino Unido por la gestión de su asociación caritativa
- La inflación de EEUU baja al 2,2% interanual en agosto
- Francia despide a una joven asesinada en pleno debate sobre las circunstancias de su muerte
- Ascienden a sesenta las denuncias por agresiones sexuales contra el fallecido magnate Al Fayed
- El desempleo se mantiene estable en Alemania en septiembre, en el 6%
- Trump amenaza con eliminar programas migratorios y Harris va a la frontera con México
- La escasez de agua colma la paciencia de los cubanos en plena crisis
- La ONU llama a proteger a los ambientalistas en Colombia
- La justicia argentina ordena a la RAE suprimir una acepción de "judío" en el diccionario
- China aplica un recorte de la reserva mínima obligatoria para los bancos
- Helene toca tierra en el noroeste de Florida como un huracán de categoría 4
- Se hunde plan para reanudar caza comercial de ballenas en cita de CBI en Lima
- El río Amazonas se redujo en Colombia hasta un 90% por sequía
- El noroeste de Florida aguanta el aliento ante la llegada del huracán Helene
- "Ayúdenos a salir de este lugar tan feo": La carta de adolescentes presos en Venezuela
- Colombia desiste de renegociar con FMI deuda de USD 5.400 millones
- X afirma que cumplió exigencias judiciales y pide desbloqueo de red en Brasil
- Helene se acerca a Florida convertido en "peligroso huracán" categoría 3
- Un cuadro de Van Gogh, vendido por 32,2 millones de dólares en la primera subasta de Christie's Hong Kong
- La brecha cambiaria, un viejo fantasma que acecha a la Venezuela poselectoral
- La escrutada labor de los abogados de la defensa en el juicio por violaciones en Francia
- Noruega avanza para abrir uno de los primeros servicios comerciales de almacenamiento de CO2
- "Social Studies", una mirada íntima a la vida digital de la Generación Z
- Los sindicatos españoles denuncian el "bloqueo" de la negociación para acortar el tiempo de trabajo
- Lactalis, líder mundial del sector lácteo, reducirá la colecta de leche en Francia
- SpaceX planea invertir 1.500 millones de dólares en Vietnam
- Chloé insiste en la moda "bohemia chic" para el verano
- Taiwán detecta 43 aviones y ocho barcos chinos cerca de la isla
- La misión PLATO partirá en 2026 en busca de tierras habitables en otros planetas
- China admite que su economía enfrenta "nuevos problemas"
- Indígenas sudamericanos alertan que incendios y sequías amenazan la Amazonía
- Un experimento plantea usar armas nucleares en caso de amenaza de un asteroide
- Florida se prepara para la llegada de la tormenta Helene como huracán
- Científicos destacan los beneficios ecológicos del paramotor tras usarlo en una investigación en Perú
- Mujica "todos los días va dando un pasito más" de mejoría, según su esposa
- Encuentran a 13 migrantes muertos frente a la costa de Túnez
- España rechaza asistir a la investidura de Sheinbaum por el veto de México a Felipe VI
- La Unión Europea aprueba un plan para reducir el estatus de protección del lobo
- Google demanda a Microsoft ante la Comisión Europea por presunto monopolio en la nube
- Hollywood es más útil para Harris por su dinero que por su apoyo, dicen expertos
- Melania Trump sale de su mutismo para promocionar su autobiografía
Expertos preocupados porque la inteligencia artificial ya engaña a humanos
Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.
Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.
Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.
"Estos peligros tienden a descubrirse solo después de ocurrido el hecho", declaró Park a la AFP, para acotar que "nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja".
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se "escriben" sino que "crecen" mediante un proceso similar a la reproducción selectiva, indicó Park.
Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.
- Juego de dominación mundial -
La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia "Diplomacy", donde construir alianzas es clave.
Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10% superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.
Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era "en gran medida honesto y útil" y que "nunca apuñalaría por la espalda intencionalmente".
Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.
En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.
En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba "meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy".
"No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos", añadió.
- ¿Eres un robot? -
Una amplia revisión realizada por Park y sus colegas encontró que éste era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.
En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo "No soy un robot".
Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes". Luego, el trabajador resolvió el rompecabezas planteado.
A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.
En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus "objetivos misteriosos" se alinearan con estos resultados.
Para mitigar los riesgos, el equipo propone varias medidas: leyes de "bot o no" que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus "procesos de pensamiento" internos "contra acciones externas.
A aquellos que lo llaman pesimista, Park les responde: "La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente".
L.Peeters--CPN