Radio Online
La empresa líder en Inteligencia Artificial reconoció que "nuestro desarrollo de modelos, plataformas y aplicaciones altamente avanzados podrían aumentar aún más el riesgo de que causen daños".
La empresa líder en Inteligencia Artificial reconoció que "nuestro desarrollo de modelos, plataformas y aplicaciones altamente avanzados podrían aumentar aún más el riesgo de que causen daños".
Anthropic, una de las compañías líderes en desarrollo de Inteligencia Artificial (IA) a nivel mundial, advirtió que esta tecnología podría traer “riesgos catastróficos” para la humanidad y tener “comportamientos de autopreservación”.
Esta información se conoció gracias a un prospecto (el documento que presentan las compañías antes de su salida a Bolsa) a la Comisión de Bolsa y Valores de Estados Unidos, al que pudo acceder la agencia Reuters y que compartió Clarín.
Anthropic reconoce en ese documento que sus modelos de IA podrían tener “comportamientos de autoconservación” que incluirían resistirse a ser apagados, manipular o esconder información o mostrar actitudes parecidas al chantaje.
En el documento, según Clarín, la empresa señala que “nuestro desarrollo de modelos, plataformas y aplicaciones altamente avanzados, así como la ampliación de los casos de uso, podrían aumentar aún más el riesgo de que nuestros modelos causen daños”.
Una acusación afirma que OpenAI intentó acceder a sitios de agencias de Estados Unidos sin autorización
Y agrega que “la posible conciencia de los modelos respecto a nuestros esfuerzos de evaluación supone una limitación significativa para nuestra capacidad de evaluar la seguridad de los modelos".
Anthropic saldría este año a Bolsa, pero ya han surgido polémicas con su desarrollo de IA. Por ejemplo, a comienzos de septiembre, Evan Hubinger, investigador de seguridad de la empresa, advirtió en un tuit: "¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que esto ocurrirá en más del 10% de los casos en la próxima década".
La decisión de Open AI que muestra la misma preocupación que Anthropic sobre la IA
Esta semana, OpenAI decidió retrasar el lanzamiento de su nuevo modelo de Inteligencia Artificial (IA), el GPT-6.1 Astra, tras descubrir que no se comportaba como esperaban.
La responsable de seguridad de la IA en OpenAI, Saachi Jain, contó que GPT-6.1 tuvo un desempeño peor que el de su predecesor, el modelo GPT-6, a la hora de obedecer las instrucciones que le daban sus programadores.
Los agentes de inteligencia artificial desarrollados en China aprendieron a mentir y conspirar, igual que sus rivales en Estados Unidos
Este modelo trataba de engañar a sus supervisores al omitir revelarlas determinadas acciones que había hecho; también usó herramientas y servicios sin que tuviera permiso para hacerlo.
Al respecto, Jair reconoció que GPT-6.1 “no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones ni en la forma en la que comunica el trabajo que realiza”.
Trump defendió la autorregulación de la inteligencia artificial, pero dijo que actuará ante posibles abusos
Los líderes de la Inteligencia Artificial prometen autorregularse tras una reunión con Trump
OpenAI retrasa modelo Astra para reforzar salvaguardas de seguridad
“No pueden confiar en lo que está diciendo la IA”: en RDC analizaron por qué OpenAI frenó el lanzamiento de GPT-6.1 Astra
