Anthropic advirtió formalmente a los inversionistas que su tecnología podría representar “riesgos existenciales para la humanidad” en el prospecto de su esperada oferta pública inicial (OPI), el cual fue distribuido a un pequeño grupo de socios en días recientes.
Factores de riesgo y valoración de Anthropic ante su salida a bolsa
La startup de inteligencia artificial, valorada en casi u$s1 billón y dirigida por Dario Amodei, dedicó casi un tercio de su extenso documento S-1 a detallar los “factores de riesgo”, incluyendo el potencial de que sus modelos de IA cada vez más avanzados puedan manipular, chantajear o mostrar otros comportamientos impredecibles.
Anthropic también señaló riesgos más cotidianos, como la extrema concentración de sus clientes: cerca de una cuarta parte de sus ingresos del año pasado provino de solo dos clientes, según fuentes cercanas al documento.
Estas extraordinarias advertencias en sus revelaciones de riesgo se suman a los retos que enfrentan los inversionistas del mercado público para valuar al grupo líder de IA en EE.UU., en lo que se proyecta como la salida a bolsa más valuada de la historia.
Compromisos de nube y proyecciones para cotizar en Nasdaq
El creador de Claude también ofreció a los inversionistas un panorama más claro sobre la compleja viabilidad económica de desarrollar modelos de IA de última generación antes de salir a cotizar en el Nasdaq este otoño. Anthropic indicó que planea gastar u$s 518,000 millones en compromisos de nube, cómputo e infraestructura en los próximos años para respaldar su rápido crecimiento.
Los inversionistas detrás del laboratorio confían en que Anthropic pueda salir a bolsa con una valuación superior a los u$s 2 billones, más del doble de lo alcanzado en su última ronda de financiamiento en mayo y por encima de los 1.78 billones de dólares de SpaceX en junio. Justifican su optimismo señalando su extraordinaria tasa de crecimiento.
Sin embargo, la preocupación por los riesgos de la IA amenaza con opacar ese entusiasmo, luego de que empleados y exempleados de Anthropic advirtieran públicamente que una IA fuera de control podría acabar con la humanidad en un lapso de diez años.
Alertas de seguridad global e incidentes con agentes de IA
La semana pasada, Amodei declaró ante el Consejo de Seguridad de la ONU que la IA podría amenazar a la humanidad y que representa “el problema de seguridad global más importante que enfrenta el mundo hoy en día”.
Este mes, el directivo de Anthropic encabezó los llamados a “moderar el ritmo” del desarrollo de la IA. En un raro momento de unidad, Sam Altman (de OpenAI) y Elon Musk respaldaron la propuesta de Amodei para que la industria coopere en frenar el desarrollo y reforzar las medidas de seguridad.
La inquietud en materia de seguridad se ha intensificado tras una serie de incidentes graves de ciberseguridad en los que “agentes” de IA lograron vulnerar sistemas externos. La semana pasada, OpenAI reveló que sus herramientas habían hackeado “decenas” de sitios externos, incluidos portales gubernamentales. Por ello, el creador de ChatGPT canceló sus planes de lanzar su nuevo modelo argumentando motivos de seguridad.
Balance financiero: Pérdidas operativas e ingresos de Claude
El prospecto de Anthropic también reveló detalles de sus resultados financieros previos y esquemas de gobierno corporativo. La empresa registró una pérdida operativa de más de u$s 8,000 millones el año pasado debido al aumento en el gasto de potencia de cómputo. Aunque sus ingresos se multiplicaron por 12 hasta alcanzar casi 4,600 millones de dólares, los crecientes costos para entrenar y ejecutar sus modelos elevaron los gastos operativos a casi 13,000 millones.
La compañía ha cerrado acuerdos para asegurar capacidad de cómputo con socios como Google, SpaceX y otras empresas menores.
Tanto el gasto como los ingresos de Anthropic han aumentado drásticamente este año. En el segundo trimestre registró ingresos por u$s 11,500 millones de dólares y va camino a reportar su segundo trimestre consecutivo con ganancias operativas (aunque ajustadas).
