Perspectiva clave: Las aseguradoras están redefiniendo la responsabilidad mediante exclusiones en pólizas relacionadas con la inteligencia artificial generativa.
Riesgos involucrados: La falta de control sobre los riesgos de la IA podría resultar en sanciones regulatorias, demandas colectivas y pérdidas concentradas.
Visión hacia el futuro: Startups y aseguradoras más grandes seguirán ofreciendo pólizas especializadas para la IA generativa.
Fuente: Puntos generados por IA con revisión editorial
A medida que los bancos y otras empresas aumentan su uso de la inteligencia artificial generativa (IA), y las demandas relacionadas aumentan, el panorama de seguros podría cambiar, afectando cómo se protegen contra estos riesgos.
Diversas empresas ya han sido demandadas por problemas derivados de su uso de IA generativa. Por ejemplo, Deloitte Australia reembolsó al gobierno australiano por un informe generado por IA que contenía errores y citas falsificadas. Asimismo, Wells Fargo enfrentó demandas por discriminación impulsada por algoritmos. También se han tomado medidas regulatorias contra empresas que afirmaron usar IA sin hacerlo realmente.
Las aseguradoras están tratando de evitar responsabilidades por los riesgos asociados al uso de IA generativa. Verisk, proveedor de análisis de datos y tecnología para numerosas aseguradoras, ha introducido una opción de exclusión para la IA generativa en su programa de responsabilidad general. Esta modificación entrará en vigencia en enero.
“Analizamos la nueva tecnología y decidimos introducir una exclusión que elimina la IA generativa”, comentó Joseph Lam, vicepresidente de responsabilidad general en Verisk.
Algunos aseguradores podrían considerar que cuentan con los expertos necesarios para cubrir riesgos relacionados con la IA en sus pólizas, mientras que otros podrían optar por adoptar la exclusión para la IA generativa.
Startups como Testudo, Armilla y Vouch están viendo una oportunidad y están ofreciendo seguros específicamente para la responsabilidad de la IA generativa.
Las empresas han comenzado a mostrar interés en este tipo de cobertura. Según una encuesta realizada por la Geneva Association, más del 90% de 600 empresas encuestadas valoraría un seguro para riesgos relacionados con la IA generativa. Más de dos tercios de los encuestados estarían dispuestos a pagar al menos un 10% más por esta cobertura.
¿Cuáles son los riesgos de responsabilidad?
Verisk no tenía escenarios de riesgo específicos en mente al crear su exclusión, según Lam.
“Es más, esta es una nueva tecnología. ¿Cómo introducimos herramientas de suscripción adicionales para que nuestros clientes tengan plena flexibilidad en cómo desean abordar estos riesgos en el futuro?”
La Geneva Association ha identificado varios riesgos de la IA generativa, que van desde un mayor riesgo de errores algorítmicos hasta la creación de una mayor superficie de ataque para ciberataques, el desplazamiento laboral que puede generar descontento entre los trabajadores, y la producción de información engañosa o dañina que puede erosionar la confianza del cliente.
Las demandas relacionadas con errores de IA generativa han comenzado a surgir. Por ejemplo, Deloitte Australia devolvió una parte de un informe de $290,000 que contenía errores generados por IA.
Un cliente demandó a Air Canada tras una interacción con un bot de IA, que proporcionó información incorrecta sobre un descuento por duelo. Un adjudicador determinó que Air Canada era responsable por las declaraciones de su bot.
Demandas de propiedad intelectual también se han interpuesto contra empresas como OpenAI y Meta por el uso no autorizado de contenido protegido para entrenar sus modelos de IA generativa.
En 2022, Wells Fargo enfrentó varias demandas colectivas por discriminación impulsada por algoritmos en sus prácticas hipotecarias.
Otro riesgo es el “AI washing,” donde las empresas son demandadas o multadas por afirmar que utilizan IA cuando en realidad no lo hacen. En marzo, la SEC resolvió cargos contra dos asesores de inversión por hacer declaraciones engañosas sobre su uso de IA.
Las startups aprovechan la oportunidad
Algunas startups están viendo oportunidades en este contexto. Testudo ofrece una póliza de responsabilidad por IA generativa respaldada por Lloyds de Londres, alineada con la exclusión de Verisk.
Testudo puede realizar una revisión externa para determinar y calcular el riesgo de IA de una empresa, revisando litigios relacionados para evaluar la responsabilidad real del mercado.
George Lewin-Smith, fundador de Testudo, se inspiró en su experiencia en Goldman Sachs cuando se lanzó ChatGPT. “Las empresas buscan adoptar la tecnología de IA rápidamente, pero surgen preocupaciones sobre el cumplimiento y el riesgo”, dijo.
Testudo cubre demandas por infracción de derechos de autor, discriminación, y otros tipos de litigios asociados al uso de IA generativa.
La compañía monitorea diariamente las demandas relacionadas con la IA generativa y ha notado un incremento exponencial en estas.
Armilla AI, basada en Toronto, también ofrece seguros para responsabilidades de IA, incluyendo errores de modelo y violaciones regulatorias.
Vouch, un corredor de seguros de San Francisco, cubre reclamaciones por sesgos algorítmicos, infracción de propiedad intelectual y otros daños relacionados con productos de IA.
Se espera que otros proveedores más grandes también desarrollen pólizas similares, según Lam, indicando que siempre habrá jugadores dispuestos a cubrir estos vacíos en el mercado.