De verdade, apenas 12% das empresas controlam bem sua IA?

Buenas a todos,

Leíamos estos días un estudio de SAP y Oxford Economics, con unos 2.600 directivos de 13 países, según el cual solo el 12 % de las organizaciones dice tener las capacidades y los procesos para gobernar bien la IA que usa. Otro dato del mismo informe: apenas un tercio tiene controles sólidos para revisar el código que genera la IA.

Con la de negocios que ya usan IA para atender clientes, escribir textos o preparar presupuestos, da que pensar. Nuestra impresión es que muchos han empezado a usar herramientas sin decidir quién revisa lo que sale, qué datos se le pueden dar ni qué pasa si se equivoca. La IA ayuda, pero sin unas reglas mínimas acaba dando más lío que ahorro.

¿Tenéis algún paso para revisar lo que saca la IA antes de que llegue al cliente?
¿Habéis puesto normas sobre qué información se le puede dar y cuál no?
¿Os habéis llevado ya algún susto por fiaros de más?

Gracias por compartir.

Eso también depende mucho del uso que hagas de la IA. Si usas la IA para hacer diseños de imagenes o para redactar cosas cortas, o para darte ideas o hacer tareas simples, no es un gran problema comprobar si el trabajo que ha realizado está bien o tiene errores. Pero si lo usas en una empresa tecnológica para programar, ahí es mucho más importante y necesario controlar lo que hacen, porqué un error puede tener consecuencias muy graves.