Radio Online
Sergio Gramajo, doctor en Ingeniería de Sistemas y Computación e investigador de la UTN, explicó los riesgos que plantea el desarrollo acelerado de la inteligencia artificial y destacó la importancia de establecer controles éticos y legales sobre los nuevos modelos.
Martes 15 de Septiembre de 2026 - Actualizada a las: 22:20hs. del 15-09-2026
Sergio Gramajo, doctor en Ingeniería de Sistemas y Computación, docente e investigador del Centro de Investigación Aplicada en Tecnologías de la Información y la Comunicación (CInApTIC) de la UTN Facultad Regional Resistencia, dialogó con Radio Sudamericana sobre el desarrollo de la inteligencia artificial y los desafíos que plantea su utilización.
Gramajo integra, junto a Diego Bolatti y Reinaldo Scappini, el equipo de investigación cuyo trabajo sobre ciberseguridad mediante inteligencia artificial fue validado y aprobado por consenso en la Unión Internacional de Telecomunicaciones (UIT), organismo dependiente de Naciones Unidas.
El investigador contó que el proyecto comenzó a desarrollarse a partir de 2014 y que posteriormente fue presentado como un reporte técnico orientado a utilizar inteligencia artificial para detectar comportamientos anómalos en dispositivos conectados a Internet.
"Nosotros lo que propusimos es un mecanismo para identificar cuando en la red que hace que se activen esos dispositivos sea algún intruso o sea alguien, el dueño de casa, por ejemplo", explicó.
La propuesta puede aplicarse a dispositivos de uso cotidiano, como sensores de puertas, portones y alarmas, pero también a sistemas vinculados con ciudades inteligentes, como semáforos, sensores de lluvia, caudalímetros y sistemas de detección de inundaciones.
La investigación avanzó durante 2023 y 2024 con aportes de representantes de distintos países. Gramajo señaló que participaron miembros de Estados Unidos, China, Rusia, Gran Bretaña, Japón y países africanos, entre otros.
"Que nos apoye China, que nos apoye en el mismo momento Rusia, que nos apoye en un momento Gran Bretaña y Estados Unidos, fue para nosotros algo bastante asombroso", relató.
Según explicó, el documento se encuentra en una etapa de determinación y está siendo traducido a seis idiomas por Naciones Unidas. Para los investigadores, representa un reconocimiento al trabajo académico desarrollado desde la UTN.
Qué puede detectar la inteligencia artificial
Gramajo explicó que uno de los objetivos centrales del sistema desarrollado es diferenciar entre un comportamiento normal y uno anómalo dentro de una red.
"El reconocimiento, si algo es normal o no normal, es utilizando inteligencia artificial", señaló.
De esta manera, un sistema podría detectar una comunicación irregular o una posible intrusión y generar una alerta para el propietario o para la organización que administra la infraestructura.
El debate sobre los límites de la IA
Durante la entrevista, Gramajo también se refirió al debate internacional sobre la necesidad de establecer normas para el desarrollo de la inteligencia artificial.
"Comparto totalmente la preocupación que hay respecto al uso, al buen uso y a la gobernanza mundial y ética que tiene que haber sobre los desarrollos de inteligencia artificial", afirmó.
El investigador explicó que actualmente existe una competencia entre países y empresas por desarrollar nuevos modelos cada vez más rápido. El problema, según su análisis, aparece cuando los tiempos de desarrollo y lanzamiento al mercado son menores que los necesarios para evaluar sus posibles consecuencias.
"Es una carrera que no tiene fin y los controles que se deberían hacer para ver si los resultados son correctos llevan su tiempo", sostuvo.
Y resumió su planteo con una definición central: "No está el problema en los algoritmos, está el problema en las personas que quieren salir lo más rápido posible con productos o porque les conviene económica y geopolíticamente algún país".
Qué significa que una IA esté "alineada"
Gramajo explicó que uno de los conceptos que actualmente adquiere mayor importancia es el de "alineación". Según detalló, implica que los sistemas puedan actuar dentro de parámetros éticos, legales y racionales.
El riesgo aparece cuando una inteligencia artificial recibe un objetivo pero no cuenta con límites suficientes sobre la manera de alcanzarlo.
Como ejemplo, planteó que un sistema podría interpretar que para mejorar el bienestar económico de una población debería aumentar su riqueza y, sin límites adecuados, encontrar mecanismos ilegales para lograrlo.
"Para llegar a esos límites duros se necesita probar los resultados de estos modelos", explicó. Y volvió a señalar que esas pruebas requieren tiempo, justamente el recurso que estaría faltando en la carrera por lanzar nuevos desarrollos.
Inteligencia artificial e inteligencia humana
El investigador también buscó diferenciar la inteligencia artificial de la inteligencia humana y cuestionó algunas interpretaciones sobre la supuesta conciencia de los sistemas actuales.
"Cuando hablamos de inteligencia artificial, por ahí la gente se confunde con un humanoide de las películas que es inteligente y que actúa como nosotros", explicó.
Según Gramajo, los sistemas actuales trabajan mediante algoritmos, cálculos matemáticos y modelos probabilísticos capaces de generar respuestas que pueden dar la impresión de comprensión.
"Es vacío, no es una comprensión consciente", sostuvo.
También diferenció la inteligencia artificial generativa, como la utilizada para producir textos e imágenes, de la denominada inteligencia artificial general, que plantea sistemas capaces de aprender de manera autónoma y alcanzar capacidades comparables o superiores a las humanas.
En este último caso, aclaró que se trata de un concepto teórico que, según su explicación, todavía no fue alcanzado.
Los riesgos y el uso de la tecnología
Gramajo sostuvo que la inteligencia artificial puede ser una herramienta de enorme utilidad, pero advirtió sobre los riesgos derivados de su utilización incorrecta.
"No es un arma", afirmó, aunque señaló que podría intervenir indirectamente en conflictos si, por ejemplo, se utilizara para acceder a sistemas de defensa de un país.
"Si un país accede a los sistemas de defensa de otro país, el país afectado seguramente se va a defender con armas reales", explicó.
Para el investigador, el debate central pasa entonces por establecer mecanismos que permitan controlar los resultados de los nuevos modelos y garantizar que su funcionamiento se mantenga dentro de parámetros éticos, legales y racionales.
"Esta es una herramienta de las más fascinantes y grandiosas que inventó el hombre, con lo que se puede llegar a lograr. Y si se utiliza mal, puede utilizarse", concluyó.
