Diez hackers y una IA desafían un sistema: el claro vencedor.
Las empresas tecnológicas continúan discutiendo sobre la AGI, aunque existen muchas inquietudes respecto a que esté tan cerca como se afirma. La inteligencia artificial general sería aquella capaz de superar al ser humano en todas las áreas del conocimiento. Aunque no está claro si lograrán superar al ser humano en todos los aspectos, hay un ámbito en el que ya están avanzando: el hacking.
El experimento. Fue llevado a cabo por investigadores de la Universidad de Stanford y se dio a conocer a través de un reportaje del Wall Street Journal. Crearon un bot de hacking llamado Artemis, cuyo objetivo es escanear la red en busca de bugs o vulnerabilidades por las que pueda infiltrarse.
Artemis fue liberado en la red de ingeniería de la universidad y se enfrentó a diez pentesters, hackers profesionales que simulan ataques para identificar bugs que luego deben ser corregidos. El bot contaba con un ‘kill switch’ para poder apagarlo en cualquier momento si la situación se complicaba, mientras que los hackers humanos tenían instrucciones de forzar y probar, pero sin penetrar en la red.
Los resultados. Para sorpresa de sus creadores, Artemis logró resultados sobresalientes, superando a nueve de los diez hackers humanos. El bot fue capaz de encontrar bugs mucho más rápido que sus contrincantes y, además, a un costo significativamente menor. Se estima que un pentester cobra entre 2.000 y 2.500 dólares por día, mientras que Artemis solo «cobra» 60 dólares la hora.
Otra «mirada». Artemis no acertó en todo. Al menos un 18% de sus reportes de bugs fueron falsos positivos, y también pasó por alto un bug bastante obvio que los hackers humanos identificaron de inmediato. Sin embargo, detectó un bug que ningún humano había encontrado. La razón es que el fallo estaba en una web que no funcionaba en Chrome ni en Firefox, los navegadores que utilizaban los hackers. Artemis, al no ser una persona, no usa navegadores, sino que empleó un programa y logró leer la web, encontrando así el bug.
La IA y el hacking. Los ciberdelincuentes han estado utilizando la IA para hacer el malware más efectivo. Recientemente, Anthropic descubrió que un grupo de hackers chinos estaba usando Claude Code para una campaña de espionaje a gran escala. Lo interesante es que Claude actuaba como un agente que se encargaba de todo el ciclo de ataque, no solo de una parte del proceso.
IA para hacer el bien. La IA está bajando las barreras de entrada para desarrollar ataques, pero también puede ser utilizada como protección. Investigaciones como la de Stanford demuestran que la IA puede ser empleada para probar sistemas inseguros, encontrar bugs y así poder parchearlos. El dilema que surge es cuál será el papel de los profesionales como los pentesters si la IA termina realizando su trabajo por mucho menos dinero.
Imagen | Sora Shimazaki, Pexels
