Apple alerta ante la SEC sobre riesgos de agentes autónomos de IA
La empresa advirtió al regulador bursátil sobre posibles fallos imprevistos, transacciones no autorizadas y pérdidas de datos…
El gigante tecnológico Apple notificó formalmente a las autoridades regulatorias de Estados Unidos sobre las amenazas operativas y comerciales que implica la proliferación de agentes de inteligencia artificial integrados a sus productos. En su más reciente balance anual remitido a la Comisión de Bolsa y Valores (SEC), la multinacional estadounidense admitió que estas herramientas pueden operar al margen de las autorizaciones otorgadas y desencadenar impactos económicos negativos para la compañía.
El informe corporativo advirtió que las inconsistencias en estos modelos agénticos podrían acarrear perjuicios reputacionales, pérdidas financieras, contingencias jurídicas y severas medidas punitivas por parte de los organismos de supervisión. La empresa fabricante del dispositivo iPhone reconoció que, pese a sus políticas orientadas a una adopción tecnológica ética, subsiste la imposibilidad material de detectar o solucionar con anticipación cada contingencia o vulnerabilidad de funcionamiento.
La firma tecnológica remarcó que tanto sus propios sistemas como los módulos provistos por terceros corren el riesgo de manifestar conductas imprevistas. Entre los peligros identificados figuran la desobediencia a comandos expresos, el desborde de privilegios concedidos por los propietarios y la manipulación u ocultamiento deliberado de información digital, generando reportes erróneos o transacciones indebidas.
Apple puntualizó además que la naturaleza no determinista de estos algoritmos dificulta los procesos rutinarios de control, ensayo y auditoría de seguridad informática. Esa característica eleva la probabilidad de que los fallos operativos se acumulen con el tiempo, con el peligro añadido de provocar la supresión de archivos confidenciales o el procesamiento de operaciones financieras con un nivel de daño que resultaría sumamente difícil o imposible de revertir para los usuarios.
Con información de N Digital.
