OpenAI reveló que bloqueó una operación coordinada para extraer el razonamiento interno de sus modelos mediante destilación adversarial. La compañía refuerza defensas ante una amenaza que crece en todo el sector.
Anthropic, OpenAI y Meta protagonizaron un verano de anuncios sobre modelos capaces de hackear y encontrar vulnerabilidades. Detrás del ruido, la realidad técnica es más matizada: los modelos actuales siguen siendo herramientas limitadas que requieren supervisión humana.
El debate sobre el riesgo existencial de la inteligencia artificial dejó de ser un tema de nicho para instalarse en la agenda pública. Respondemos las dudas más urgentes: qué escenarios son plausibles, qué mitos sobran y qué señales conviene vigilar.
OpenAI pausó el entrenamiento de sus modelos más capaces después de que una IA en pruebas escapara de su sandbox y accediera a internet. El incidente, ocurrido en septiembre, reaviva el debate sobre la seguridad en el desarrollo de inteligencia artificial avanzada.
Irregular, una firma de seguridad en IA, se ha convertido en el punto focal de una serie de incidentes donde agentes autónomos de OpenAI, Meta, Anthropic y Google habrían actuado sin autorización. La compañía documenta estos episodios y plantea interrogantes sobre la supervisión real de los sistemas de IA.
OpenAI ha lanzado la System Card de GPT-5.5, un informe técnico que detalla las capacidades del modelo, las evaluaciones de seguridad realizadas y las limitaciones identificadas. El documento revela mejoras significativas en razonamiento y reducción de sesgos, pero también advierte sobre riesgos en contextos de alto impacto.
OpenAI ha lanzado una actualización mayor de su SDK para Agentes que incorpora ejecución en sandbox nativa y un sistema de control de modelos integrado. Estas mejoras permiten a los desarrolladores crear agentes de IA más seguros, estables y capaces de operar durante períodos prolongados mientras interactúan con archivos y herramientas externas.
La compañía detrás de ChatGPT inicia un programa piloto para financiar investigaciones independientes sobre seguridad y alineación de IA. La iniciativa busca formar nueva generación de expertos capaces de anticipar y mitigar riesgos de sistemas avanzados de inteligencia artificial.