OpenAI ha lanzado su programa 'Safety Bug Bounty' el 25 de marzo de 2026 para mitigar riesgos de abuso en IA. Gestionado a través de Bugcrowd, ofrece recompensas de hasta $7,500 por identificar vulnerabilidades en áreas como 'Riesgos Agénticos', exposición de información propietaria e integridad de la plataforma. Esta iniciativa complementa su programa de seguridad existente y busca la colaboración de la comunidad global para construir un ecosistema de IA más seguro.
La era de la inteligencia artificial, con su promesa de transformación, también trae consigo una sombra de riesgos sin precedentes. OpenAI, consciente de esta dualidad, ha respondido con una iniciativa que marca un hito: el lanzamiento, el 25 de marzo de 2026, de su programa público 'Safety Bug Bounty'. Esta no es una mera extensión de la seguridad convencional; es una declaración de intenciones, un escudo proactivo diseñado para identificar y mitigar las vulnerabilidades específicas de la IA que podrían desembocar en daños tangibles y sistémicos. La rápida evolución de los modelos agénticos y generativos exige una vigilancia que va más allá de los cortafuegos tradicionales, invitando a una comunidad global de expertos a escudriñar los rincones más complejos de la interacción humano-máquina.
El corazón de este nuevo programa late en la anticipación de lo que OpenAI denomina 'Riesgos Agénticos'. Aquí, la preocupación central reside en la capacidad de un atacante para subvertir la autonomía de un agente de IA –como Browser o ChatGPT Agent– mediante la inyección de prompts de terceros o la exfiltración de datos. No se trata de fallos superficiales, sino de escenarios donde el comportamiento dañino, reproducible al menos en el 50% de los casos, podría llevar a la manipulación de acciones o a la fuga de información sensible del usuario. La compañía reconoce que la sofisticación de sus productos demanda una defensa igualmente sofisticada, que contemple incluso aquellas acciones perjudiciales no explícitamente listadas, siempre que se demuestre un daño material plausible.
Más allá de la manipulación agéntica, el 'Safety Bug Bounty' extiende su mirada a dos frentes críticos adicionales. En primer lugar, la exposición de 'Información Propietaria de OpenAI'. Esto abarca desde generaciones del modelo que, de forma inadvertida, revelen datos sobre su razonamiento interno, hasta cualquier otra vulnerabilidad que ponga al descubierto la confidencialidad de la compañía. En segundo lugar, la 'Integridad de la Cuenta y la Plataforma' se erige como un pilar fundamental. Este eje aborda fallos que permitan eludir los controles anti-automatización, manipular las señales de confianza de una cuenta o, de manera más insidiosa, evadir restricciones, suspensiones o prohibiciones impuestas por la plataforma. La colaboración con la comunidad a través de Bugcrowd busca cerrar estas brechas antes de que puedan ser explotadas a gran escala.
Es crucial entender que este programa no persigue los 'jailbreaks' generales que resultan en lenguaje inapropiado o la divulgación de información fácilmente accesible. La visión de OpenAI es más profunda, enfocándose en los vectores de daño más complejos y específicos. De hecho, la compañía ya opera campañas de recompensas privadas para tipos de daño de alta criticidad, como los problemas de contenido de biorriesgo en modelos de vanguardia como ChatGPT Agent y el futuro GPT-5. Con recompensas que alcanzan los 7.500 dólares para el 'Safety Bug Bounty' y hasta 20.000 dólares para vulnerabilidades excepcionales en el programa de seguridad clásico, OpenAI no solo incentiva la detección, sino que reafirma su compromiso inquebrantable con la construcción de un ecosistema de IA seguro, robusto y colaborativo. La invitación está abierta a los investigadores: el futuro de la IA segura se construye en conjunto.
Compartir
En medio de la final del ESL One Birmingham 2026, la escena competitiva de Dota 2 se vio sacudida por un parche masivo de Valve justo antes de los playoffs. Álvaro 'Avo+' Sánchez Velasco, de ESL, comenta el 'caos' estratégico resultante y reflexiona sobre si Deadlock, el próximo juego de Valve, representa una amenaza o una nueva 'puerta de entrada' para el ecosistema de Dota 2.
Valve ha lanzado el parche 7.41 para Dota 2 justo durante el torneo ESL One Birmingham 2026. Esta masiva actualización elimina el sistema de Facetas, renueva las habilidades innatas de los héroes, y añade nuevos hechizos, objetos, creeps de asedio adicionales y cambios en el mapa, forzando a los jugadores a adaptarse a un metajuego completamente nuevo.
Nuevos detalles de la disputa legal entre Elon Musk y Sam Altman revelan los apoyos clave en los inicios de OpenAI. Musk consiguió poder de computación de Microsoft con descuento tras una llamada a Satya Nadella, mientras que Gabe Newell, de Valve, donó más de 20 millones de dólares y actuó como asesor informal, sentando las bases para el éxito de la IA en Dota 2.