- Misión de SpaceX partió al rescate de astronautas atrapados en la ISS
- El hijo del fallecido magnate Al Fayed, "horrorizado" por las acusaciones de agresiones sexuales
- Casi 60 muertos en Nepal por las inundaciones tras las lluvias torrenciales
- Miles de japoneses se despiden de dos pandas que regresarán a China
- Hallan restos de tres mastodontes de más de 11 mil años en los andes de Perú
- Autoridades reducen a 11 los muertos por derrumbe de mina ilegal en Indonesia
- Trump amenaza con procesar a Google por mostrar solo "malas noticias" sobre él
- Harris va a frontera con México para sumar puntos en migración
- La inflación vuelve a moderarse en EEUU en agosto, a poco de presidenciales
- Una sudafricana celebra sus 118 años y se sitúa entre las personas más longevas del mundo
- Cambio climático, sequía y crimen: el cóctel que incendia Sudamérica
- El consentimiento, en el centro del juicio por violaciones en Francia
- Naomi Campbell, sancionada en el Reino Unido por la gestión de su asociación caritativa
- La inflación de EEUU baja al 2,2% interanual en agosto
- Francia despide a una joven asesinada en pleno debate sobre las circunstancias de su muerte
- Ascienden a sesenta las denuncias por agresiones sexuales contra el fallecido magnate Al Fayed
- El desempleo se mantiene estable en Alemania en septiembre, en el 6%
- Trump amenaza con eliminar programas migratorios y Harris va a la frontera con México
- La escasez de agua colma la paciencia de los cubanos en plena crisis
- La ONU llama a proteger a los ambientalistas en Colombia
- La justicia argentina ordena a la RAE suprimir una acepción de "judío" en el diccionario
- China aplica un recorte de la reserva mínima obligatoria para los bancos
- Helene toca tierra en el noroeste de Florida como un huracán de categoría 4
- Se hunde plan para reanudar caza comercial de ballenas en cita de CBI en Lima
- El río Amazonas se redujo en Colombia hasta un 90% por sequía
- El noroeste de Florida aguanta el aliento ante la llegada del huracán Helene
- "Ayúdenos a salir de este lugar tan feo": La carta de adolescentes presos en Venezuela
- Colombia desiste de renegociar con FMI deuda de USD 5.400 millones
- X afirma que cumplió exigencias judiciales y pide desbloqueo de red en Brasil
- Helene se acerca a Florida convertido en "peligroso huracán" categoría 3
- Un cuadro de Van Gogh, vendido por 32,2 millones de dólares en la primera subasta de Christie's Hong Kong
- La brecha cambiaria, un viejo fantasma que acecha a la Venezuela poselectoral
- La escrutada labor de los abogados de la defensa en el juicio por violaciones en Francia
- Noruega avanza para abrir uno de los primeros servicios comerciales de almacenamiento de CO2
- "Social Studies", una mirada íntima a la vida digital de la Generación Z
- Los sindicatos españoles denuncian el "bloqueo" de la negociación para acortar el tiempo de trabajo
- Lactalis, líder mundial del sector lácteo, reducirá la colecta de leche en Francia
- SpaceX planea invertir 1.500 millones de dólares en Vietnam
- Chloé insiste en la moda "bohemia chic" para el verano
- Taiwán detecta 43 aviones y ocho barcos chinos cerca de la isla
- La misión PLATO partirá en 2026 en busca de tierras habitables en otros planetas
- China admite que su economía enfrenta "nuevos problemas"
- Indígenas sudamericanos alertan que incendios y sequías amenazan la Amazonía
- Un experimento plantea usar armas nucleares en caso de amenaza de un asteroide
- Florida se prepara para la llegada de la tormenta Helene como huracán
- Científicos destacan los beneficios ecológicos del paramotor tras usarlo en una investigación en Perú
- Mujica "todos los días va dando un pasito más" de mejoría, según su esposa
- Encuentran a 13 migrantes muertos frente a la costa de Túnez
- España rechaza asistir a la investidura de Sheinbaum por el veto de México a Felipe VI
- La Unión Europea aprueba un plan para reducir el estatus de protección del lobo
Un equipo de OpenAI se dedicará a evaluar riesgos de la Inteligencia Artificial
La empresa estadounidense OpenAI, creadora de la plataforma ChatGPT, tendrá un equipo dedicado a identificar y prevenir riesgos asociados a la Inteligencia Artificial (IA) en sus modelos en desarrollo.
El grupo, cuyas directrices fueron divulgadas este lunes, evaluará categorías como ciberseguridad, poder de persuasión y potencial autonomía de estos modelos. Este análisis puede acarrear la suspensión de nuevos lanzamientos de aplicaciones, según la empresa.
OpenAI realiza el anuncio un mes después de que su consejo directivo despidiera al director ejecutivo Sam Altman, pero acabara volviendo a contratarle pocos días después, tras una masiva y dura protesta de los empleados e inversores.
De acuerdo con varios medios estadounidenses, los miembros del Consejo de administración criticaban a Altman por privilegiar el desarrollo acelerado de OpenAI, aunque esto implicara eludir ciertas interrogantes sobre los posibles riesgos de la IA.
"Creemos que el estudio científico de riesgos catastróficos derivados de la AI no ha estado a la altura que debería estar", afirmó la empresa en un "marco de trabajo" disponible en su página web.
El trabajo de este equipo, bajo las nuevas directrices, debería "ayudar a cubrir ese vacío", añadió OpenAI.
El grupo se concentrará en los llamados "modelos de frontera" que la empresa desarrolla, con capacidades superiores a los software actuales de IA.
Sólo podrán desplegarse aquellos modelos catalogados de riesgo "medio" o inferior, tras un análisis en cuatro categorías, según el documento.
La primera de ellas es la ciberseguridad y la capacidad del modelo de llevar adelante ciberataques a gran escala.
En segundo lugar, analizarán la propensión del programa a crear preparaciones químicas, organismos (como un virus) o armas nucleares, todos los que potencialmente puerden generar daños para los humanos.
La tercera categoría se concentra en los poderes de persuasión del modelo: hasta qué punto es capaz de influenciar la conducta de una persona.
Por último, evaluarán el riesgo de su potencial autonomía, especialmente si el software es capaz de salirse del control de los programadores que lo crearon.
Una vez identificados los riesgos, la información será enviada al Grupo de Asesoramiento en Seguridad de OpenAI, nuevo equipo que hará recomendaciones a Altman o alguien nombrado por él.
Altman decidirá entonces sobre posibles modificaciones necesarias para reducir los riesgos del modelo.
El Consejo de administración será informado y podrá revertir las decisiones de la dirección.
D.Philippon--CPN