Skip to main content Skip to footer

ESTUDIO

Technology Vision 2025

IA: declaración de autonomía: ¿Es la confianza el límite de las posibilidades infinitas de la IA?

10 MINUTOS DE LECTURA

7 enero 2025

En resumen

  • Los líderes deben prepararse para un futuro inminente en el que la IA esté presente en todos los aspectos de la vida y actúe de manera autónoma en representación de las personas, que tendrán la última palabra en las decisiones críticas.

  • La nueva autonomía de la IA también implica una mayor autonomía para los sistemas y las personas, para dedicarse a tareas de mayor valor, lo que conlleva una mayor confianza.

  • Se perderán oportunidades de éxito si los líderes empresariales no pueden garantizar la confianza necesaria para que los profesionales y los clientes aprovechen las capacidades sin precedentes de la IA.
Acelerando la autonomía con cerebro cognitivo digital

Al implementar la IA, los directivos deben ver más allá de los detalles individuales para fijarse en el panorama general que están creando: los "cerebros cognitivos digitales". Aunando todos sus esfuerzos, pueden codificar flujos de trabajo, información institucional, cadenas de valor, interacciones sociales y otros datos en un sistema que los comprenda a un nivel mucho más elevado que nunca y que sepa actuar de forma autónoma.

Cuatro tendencias emergentes de la IA hacia la autonomía y confianza

Nuestras tendencias tecnológicas exploran en las consecuencias de la autonomía de la IA en el núcleo de la tecnología empresarial, actuando en representación de la marca, haciendo funcionar a robots y colaborando en nombre de los profesionales.

01

El Big Bang binario: los agentes autónomos

Con la IA generativa en el centro de la tecnología empresarial, los costes de desarrollo disminuyen drásticamente, surgen nuevos sistemas y los agentes digitales ganan autonomía, lo que transforma por completo las aplicaciones tal y como las conocemos.

Las organizaciones están entrando en un momento de transición que va a marcar a toda una generación, es lo que llamamos el Big Bang binario. Cuando los modelos fundacionales superan la barrera del lenguaje natural se genera un cambio en nuestros sistemas tecnológicos: en su diseño, uso y funcionamiento. Estos modelos están traspasando los límites del software y la programación, lo que multiplica la producción digital de las empresas y acelera considerablemente la innovación. Nos encontramos en un momento donde los sistemas tecnológicos gozan de una mayor abundancia, abstracción y autonomía, y las decisiones que las empresas tomen en la actualidad tendrán un gran impacto en sus éxitos durante la próxima década.

Las empresas con visión de futuro ya están aprovechando este periodo transitorio para asegurar su crecimiento a largo plazo. La clave es mirar más allá de los usos inmediatos de la IA y comprender la profundidad del cambio que está teniendo lugar en la base tecnológica. Por ejemplo, los agentes no solo están mejorando el software, sino que están redefiniendo su naturaleza. Estamos viendo cómo las funciones de IA permiten a los usuarios interactuar con software complejo solo a través del lenguaje natural, y cómo copilotos de codificación están transformando la eficiencia de los desarrolladores.

A medida que avanzamos en esta transición, están surgiendo tres pilares de la tecnología del futuro: abundancia, abstracción y autonomía. Abundancia, porque se está reduciendo el coste y el tiempo de creación de sistemas digitales, facilitando la multiplicación de nuevas aplicaciones. Abstracción, porque se está democratizando la tecnología, es decir, aumentando quién y cómo se usa. Autonomía, porque el futuro tiende a sistemas fluidos (sistemas interconectados donde el dato fluye entre aplicaciones) basados en la intención, esto es, con lenguaje natural podremos accionar las intenciones que queremos se ejecuten, lo cual va a exigir un enfoque totalmente nuevo para el desarrollo de software y la formación de los desarrolladores y usuarios.

La transformación tecnológica actual está cambiando lo establecido. Algunas aplicaciones están pasando de ser conjuntos de herramientas a los que los usuarios pueden acceder a convertirse en plataformas con agentes que pueden utilizar esas herramientas y funciones en nombre de las personas. A medida que estas capacidades avanzan, surge la siguiente pregunta: ¿la forma en que están diseñadas las aplicaciones hoy en día sigue teniendo sentido o en el futuro los usuarios finales se dirigirán directamente a los agentes? El Big Bang binario está haciendo que muchos de nuestros supuestos fundamentales sobre la tecnología digital queden obsoletos, lo que nos ofrece una oportunidad única para remodelar y revolucionar la competencia empresarial.

Las tecnologías actuales no son nuestro foco, sino la forma en que las desarrollamos. Los líderes deberían prepararse para un futuro tecnológico de abundancia, abstracción y autonomía.

Un 48%

de los directivos afirman que los agentes de IA mejorarían la flexibilidad de su arquitectura digital, mientras que el 43% hace referencia a una mejor innovación. En España el porcentaje de flexibilidad asciende al 50%.

Un 77%

de los directivos a nivel global y un 81% en España están de acuerdo en que los agentes de IA reinventarán la forma en que su organización desarrolla sistemas digitales.

Un 78%

de los directivos coinciden en que en los próximos 3-5 años tendrán que desarrollarse ecosistemas digitales para los agentes de IA y las personas.

¿Cómo se puede mantener la confianza?

Para aprovechar el poder de los sistemas autónomos de manera responsable, las empresas deben implementar una monitorización sólida y una formación estratégica. Esto implica rastrear el acceso a los datos, la dirección y la calidad de los resultados de los sistemas, mientras se establecen planes claros de gestión empresarial y comunicación para generar confianza en los profesionales.

Próximos pasos

¿Eres pionero?

  • Define tu nuevo ecosistema digital
  • Identifica las oportunidades más valiosas del panorama tecnológico del futuro

¿Te estás preparando para empezar?

  • Planea las ofertas de IA agéntica de los socios del ecosistema
  • Empieza a experimentar internamente con agentes

¿Quieres adoptar un enfoque más cauteloso?

  • Prepara tu núcleo digital para los agentes
  • Fíjate en las señales para predecir las consecuencias futuras en el sector
02

Tu cara en el futuro: la IA, un nuevo punto de contacto con el cliente

Los agentes de IA pueden personalizar a medida las interacciones con los clientes a medida, pero las marcas deben proteger su mensaje para diferenciarse del resto.

A medida que las empresas integran la IA generativa en estas interacciones, surge una pregunta clave: ¿Cuál es la personalidad de tu IA? Si los agentes genéricos podrían hacer que la experiencia del cliente fuera aburrida y se perdiera la identidad de la marca, la IA personificada es una solución que da una personalidad única a los agentes y establece relaciones con los clientes de manera innovadora y sin precedentes.

El reto es hacer que los representantes digitales hagan que la experiencia del cliente se vuelva más autónoma. Al utilizar cada vez más plataformas de chat y agentes de terceros, a menudo diseñados para ser genéricos, las empresas corren el riesgo de diluir la singularidad de su mensaje y la identidad de su marca. Pero esta no es una razón para rechazar la autonomía o la IA en la experiencia del cliente, sino para utilizar la IA personificada con el objetivo de combinar la escala y la eficiencia de la IA con el poder humanizador de la marca y los valores de la empresa.

Imagina un futuro en el que cada interacción con clientes sea con alguien que les resulte familiar, un chatbot personificado con la cara de una mascota o un personaje conocido. Este agente funciona en los canales de la empresa o puede participar en conversaciones en otras plataformas de IA. Con el tiempo, aprenderá a conocer a cada cliente individualmente, generando confianza mediante acciones relevantes y utilizando herramientas digitales para satisfacer sus necesidades por muy específicas que sean. Un chatbot como este no solo personaliza las interacciones a nivel superficial, sino que construye relaciones de confianza de forma autónoma y gestiona miles de conversaciones a la vez.

Sin embargo, aunque se conocen los aspectos básicos de esta visión (agentes de IA, infraestructura para dar a los agentes acceso a datos relevantes y el creciente campo de la IA personificada), las empresas todavía necesitan tener una intención que los conecte. Es hora de llevar la IA generativa a las actividades con los clientes con un propósito. Si no se hace bien, las marcas pueden perder atractivo. Pero, si se implementa con éxito, esto supone el comienzo de una nueva era en las relaciones y la confianza de los clientes.

Las empresas que implementan con éxito la IA con personalidades buscan una tecnología que pueda forjar relaciones con los clientes y satisfacer sus necesidades a una escala sin precedentes. Utilizan una marca y la IA personificada para desarrollar un negocio personalizado.

Un 80%

de los directivos a nivel global y un 96% en España están de acuerdo en que el hecho de que todos los chatbots parezcan iguales está suponiendo dificultades para diferenciarse de otras organizaciones.

Un 77%

de los directivos están de acuerdo en que sus organizaciones tendrán que generar proactivamente confianza entre la IA personificada y sus clientes.

Un 95%

de los directivos a nivel global y un 96% en España afirman que establecer o mantener una personalidad será muy importante para sus agentes de IA orientados al cliente durante los próximos 3 años.

¿Cómo se puede mantener la confianza?

Para preservar la confianza, es esencial que tus chatbots estén alineados con tu marca. Esto implica revisar meticulosamente y monitorizar continuamente sus datos de entrenamiento, y trabajar con expertos en IA para establecer reglas y límites claros que controlen su conocimiento y vocabulario. Además, demuestra que existe cierto control en la recopilación de datos a través del respeto de la privacidad del usuario, preparándote ante los desafíos regulatorios y proporcionando configuraciones de privacidad claras y personalizables. Este enfoque garantiza que tus interacciones de IA sean beneficiosas y respetuosas, y estén alineadas con la marca, lo que, en definitiva, construye una marca personalizada y de confianza para los usuarios.

Próximos pasos

¿Eres pionero?

  • Añade personalidad a tus avances en la IA generativa
  • Establece límites en la autonomía de los sistemas

¿Te estás preparando para empezar?

  • Desarrolla una estrategia de implementación de personificación para experiencias de cliente de alto impacto
  • Construye relaciones en el creciente ecosistema de la IA personificada

¿Quieres adoptar un enfoque más cauteloso?

  • Audita los chatbots de tu organización
  • Conecta a los equipos tecnólogos con tu marca
03

Cuando la IA entra en los robots: cómo los modelos fundacionales reinventan la robótica

Los robots con modelos de lenguaje integrados tienen una versatilidad generalista que les permite asumir tareas humanas de forma más efectiva que los sistemas actuales con alta complejidad de programación.

La robótica se encuentra en un momento decisivo, ya que los modelos fundacionales transforman los robots de programación lineal y propósito único en máquinas versátiles que pueden razonar. Los LLM, VLM y otros modelos fundacionales están otorgando cada vez más autonomía a los robots, de manera que pueden entender mejor el mundo físico, tener conciencia espacial, interactuar con las personas y comprender instrucciones complejas, y llevar a cabo acciones seguras y precisas en respuesta. Esta transición requerirá la creación de conjuntos de datos específicos para cada propósito, pero aumentará los casos de uso y la operabilidad de los robots al tiempo que los hará más flexibles, reutilizables y duraderos.

Imagina pedirle a un robot que te traiga algo y que el robot entienda lo que quieres, identifique el objeto y te lo dé sin necesidad de programar tareas específicas. Esto es posible, ya que los modelos fundacionales han dado comienzo a una nueva etapa de la robótica y muchos de los límites que en el pasado mantuvieron a los robots relegados a fábricas y almacenes lejos de la población empiezan a desaparecer.

Además, el auge del software de robótica generalista, adaptable a diferentes tareas y entornos, está suscitando más interés en el hardware de robots multiusos. Incluso aunque los componentes del hardware de los robots se construyen de forma cada vez más específica, estos están evolucionando para tener un propósito más general. Se espera que diseños como los humanoides favorezcan una integración progresiva de los robots en el mundo, lo que revolucionará todas las industrias y permitirá a las empresas replantear las operaciones físicas y los flujos de trabajo.

Es el momento de que empieces a dar forma a la robótica del futuro de tu empresa. A medida que los robots con cerebros y cuerpos generalistas aprendan a moverse por nuevos entornos, interactuar con las personas que viven en ellos y "reflexionar" sobre los problemas de forma autónoma, su alcance e impacto aumentarán considerable y rápidamente. Los robots están a punto de conseguir logros inéditos y depende de ti rediseñar tu empresa para este nuevo mundo.

La inteligencia artificial está avanzando hacia el mundo físico y los robots están empezando a demostrar razón y autonomía.

Un 74%

de los directivos a nivel global y un 68% en España coinciden en que su organización cree que se utilizarán robots adaptables e inteligentes.

Un 80%

de los directivos a nivel global y un 82% en España creen que la comunicación en lenguaje natural aumentará la confianza y la colaboración entre personas y robots.

Un 75%

de los directivos a nivel global y un 76% en España concuerda en que, cuando se utilicen robots en espacios físicos, las organizaciones deberán tener en cuenta los principios de la IA responsable.

¿Cómo se puede mantener la confianza?

Es normal que los robots despierten cierta preocupación, especialmente cuando se les confían tareas críticas como la seguridad. Para generar confianza, es esencial ser transparente acerca de sus procesos de toma de decisiones, programación y rendición de cuentas. Posiciona a los robots como copilotos para mejorar la experiencia de los profesionales en lugar de reemplazarlos. Destaca sus excepcionales habilidades de comunicación e implementa un sistema de retroalimentación para mejorar continuamente su colaboración con tu equipo. Si priorizas la seguridad, la ética y la transparencia, tendrás todo lo que necesitas para afrontar las complejidades de la IA responsable y fomentar una combinación armoniosa de capacidades de las personas y las máquinas.

Próximos pasos

¿Eres pionero?

  • Define un plan a medida
  • Fomenta la experimentación en nuevas áreas

¿Te estás preparando para empezar?

  • Colabora con líderes de robótica
  • Acepta las oportunidades de coinnovación

¿Quieres adoptar un enfoque más cauteloso?

  • Fíjate en el panorama de la robótica
  • Plantea ideas sobre robótica
04

Un nuevo ciclo de aprendizaje: las personas y la IA están creando un ciclo de aprendizaje virtuoso

Cuando el uso de la IA generativa se extiende en una organización, cada empleado cuenta con el respaldo de esta, lo que, con el tiempo, aumenta la autonomía tanto de las personas como de la IA.

Los líderes de todas las industrias están compitiendo para aprovechar las grandes ventajas de la IA, los agentes y los sistemas autónomos, y no es de extrañar que una de las principales aplicaciones que se nos ocurre sea la automatización. Pero, aunque no hay duda de que el futuro del trabajo estará determinado por la IA generativa y los profesionales son conscientes de su valor, las preocupaciones y la desconfianza sobre esto pueden frenar la adopción y el potencial de la tecnología en la actualidad.

La solución está en la accesibilidad de la IA generativa. Rápidamente está llegando a todos los ámbitos, lo que permite a los líderes mejorar los empleos y fomentar la innovación desde la base. A diferencia de la automatización tradicional de arriba hacia abajo, la IA generativa puede favorecer una interacción dinámica entre los profesionales y la IA. Al pasar de la mera automatización a fomentar la autonomía y equipar a los profesionales para estar al frente de sus iniciativas de IA, los líderes pueden hacer que cada persona se convierta en una fuente de innovación.

Este enfoque no solo lleva a nuevas habilidades e impulsa el compromiso, sino que también permite una innovación sin precedentes. Imagina a un vendedor que aprovecha la ciencia de datos para validar una idea que ha tenido o a un conductor de camión que diseña y crea prototipos de una aplicación para hacer que su proceso de inventario sea más fluido: las posibilidades son infinitas cuando se da a los empleados autonomía para innovar con IA.

Al fomentar el uso de la IA y dar a los empleados autonomía, las empresas pueden lograr una innovación y un crecimiento exponenciales. Hay que confiar en las personas para que lideren la transformación y animarlas para que se conviertan en automatizadores y exploren nuevas ideas por su cuenta. Más allá de optimizar los flujos de trabajo, este enfoque permite que los empleados liberen su potencial con la IA y fomenta una cultura en la que cada uno es parte del motor de innovación y crecimiento.

Antes, las tecnologías se impulsaban de arriba hacia abajo y, si bien se podía dar algún retraso, las empresas tenían prácticamente toda la responsabilidad y el control de su implementación. Ahora, deben ser las personas quienes controlen esa evolución, una misión que se ve dificultada por la automatización.

Un 68%

de los directivos a nivel global y un 47% en España afirman que sus profesionales (incluidos aquellos con discapacidad) deberían actualizar su formación en el manejo de herramientas y tecnología de IA en los próximos 3 años.

Un 95%

de los directivos a nivel global y un 96% en España esperan que las tareas de sus empleados evolucionen hacia la innovación en los próximos 3 años gracias a la automatización que permite la IA generativa.

Un 75%

de los directivos a nivel global y un 77% en España creen que, solo si crean confianza entre los profesionales, las organizaciones podrán obtener todos los beneficios de la automatización gracias a la IA generativa.

¿Cómo se puede mantener la confianza?

Para aprovechar rápidamente las ventajas de la IA generativa, es esencial priorizar la participación de los profesionales. Involucra a la plantilla en la planificación, comunica claramente tus objetivos de innovación y tu perspectiva a largo plazo, y aborda las preocupaciones sobre la automatización del trabajo. Además, redefine y formaliza las vías de crecimiento profesional a través de expectativas claras y oportunidades educativas para tener competencias en IA. Este enfoque no solo aliviará los miedos, sino que también motivará a los empleados para que lideren la transformación y destaquen en un futuro determinado por la IA.

Próximos pasos

¿Eres pionero?

  • Desarrolla una plataforma para gestionar los cambios en la plantilla
  • Pon en marcha un programa de recompensas de IA

¿Te estás preparando para empezar?

  • Desarrolla una estrategia de automatización específica
  • Entiende cómo mantener el compromiso de la plantilla

¿Quieres adoptar un enfoque más cauteloso?

  • Cumple la política de IA
  • Observa las tendencias de la industria

AUTORES

Karthik Narain

Group Chief Executive – Technology and Chief Technology Officer