Gigantes de la IA rinden cuentas sobre seguridad en Nueva York
Representantes de OpenAI, Anthropic, Meta y Google declararon bajo juramento ante el Consejo Municipal sobre las evaluaciones previas al lanzamiento…
Representantes de las principales corporaciones globales dedicadas a la inteligencia artificial comparecieron este lunes ante el Consejo Municipal de Nueva York para defender sus protocolos de seguridad, en una audiencia donde evitaron compromisos vinculantes que impidan publicar modelos sin la venia previa de inspectores externos. La comparecencia estuvo encabezada por la presidenta de la corporación edilicia neoyorquina, Julie Menin, quien tomó juramento a los portavoces de OpenAI, Anthropic, Meta y Google.
Durante su testimonio, la representante de OpenAI, Morgan Dwyer, aseguró que su empresa descarta colocar en el mercado herramientas que no considere seguras, destacando que sus auditorías cuentan con supervisión gubernamental de Estados Unidos y el Reino Unido. Dwyer recordó que han postergado lanzamientos comerciales en ocasiones previas para robustecer sus controles, al tiempo que admitió que la autorregulación voluntaria resulta insuficiente y manifestó su conformidad con normativas específicas para los modelos avanzados conocidos como frontera.
Por su parte, Logan Graham, delegado de Anthropic, explicó que llevan cuatro años investigando la cuantificación de amenazas cibernéticas y de bioseguridad, calificando el proceso como una labor llena de complejidades que requiere revisiones independientes. En contraste, Shane Cahill, vocero de Meta, describió un esquema de protección por etapas pero rehusó asignar probabilidades numéricas a los riesgos, postura que compartió la delegada de Google, Alice Friend, al sostener que la proyección de eventos catastróficos futuros carece de una formulación científica exacta.
La audiencia culminó con advertencias de la concejal Menin sobre las repercusiones existenciales ligadas al avance de estos sistemas tecnológicos, subrayando que la industria no puede operar ajena al escrutinio democrático.
Con información de N Digital.
