¡La productividad podría ocultar riesgos de gobernanza! Goldman Sachs (GS.US) restringe el uso de herramientas avanzadas de programación con IA para empleados no técnicos.

Según información de Infomoney, se ha reportado que Goldman Sachs (GS.US), tras evaluar preocupaciones sobre productividad y riesgos, ha prohibido a parte de sus empleados el uso de herramientas avanzadas de inteligencia artificial (IA) diseñadas específicamente para programación. Esto significa que, después de impulsar activamente el uso de IA durante varios meses, este gigante de Wall Street ahora está redefiniendo el alcance de uso de ciertas herramientas de IA.

Se señala que en los meses previos, banqueros de Goldman Sachs venían usando en su trabajo herramientas relacionadas de Anthropic y GitHub, propiedad de Microsoft (MSFT.US). Sin embargo, según la actualización de las directrices internas del banco en octubre, ahora el uso de estas herramientas está restringido exclusivamente al grupo de ingenieros.

Este cambio ya ha generado descontento entre algunos empleados. Personas familiarizadas con el tema revelaron que algunos operadores anteriormente usaban estas herramientas de IA para acelerar tareas como monitorear flujos de transacciones de clientes, modelar cambios de mercado y posiciones, así como crear contenido textual y gráfico, por lo que se sienten frustrados por la restricción repentina en el acceso a estas herramientas.

Cabe destacar que este enfoque contrasta fuertemente con la actitud positiva que mostró Goldman Sachs respecto a la IA en julio de este año. En ese momento, el director de información de la empresa, Marco Argenti, habló públicamente sobre el llamado “vibe coding”, es decir, empleados no técnicos que desarrollan software o soluciones por sí mismos apoyados en herramientas de IA. Bajo ese modelo, operadores, banqueros y otros empleados con mayor conocimiento de las necesidades del negocio podían usar IA para construir rápidamente soluciones, y luego entregar esos resultados a uno de los aproximadamente 12.000 ingenieros de Goldman Sachs para perfeccionarlos e implementarlos en la práctica.

La ventaja de este modelo reside en reducir la barrera para que empleados no técnicos puedan desarrollar software, además de permitir que los equipos de ingeniería reciban requerimientos de negocio mucho más claros. Para operadores y banqueros, esto significa que pueden crear prototipos con IA sin esperar en las agendas del departamento de ingeniería, y así validar rápidamente si una idea tiene valor real.

Sin embargo, a medida que las capacidades de los agentes de codificación con IA han ido mejorando, este modelo también ha traído nuevos riesgos: el código generado por IA podría usarse directamente para procesar información de clientes, datos de transacciones o sistemas internos, pero los usuarios pueden no tener suficientes conocimientos de ingeniería de software para detectar vulnerabilidades de seguridad, errores lógicos o problemas de permisos de datos en ese código.

Para un banco global sujeto a regulaciones estrictas, estos riesgos son particularmente sensibles. La IA generativa no solo puede producir respuestas erróneas, sino que también puede involucrar filtración de datos sensibles, ciberseguridad, propiedad intelectual, confiabilidad de los resultados del modelo y registros regulatorios. Por eso, las instituciones financieras deben buscar un equilibrio entre aumentar la productividad de los empleados y mantener el control sobre los riesgos.

La última política de Goldman Sachs en realidad refleja un cambio más amplio en Wall Street respecto al uso de IA. En los últimos dos años, las instituciones financieras en general han considerado la IA generativa como una herramienta clave para mejorar la productividad de los empleados. Con la mejora rápida de las capacidades de Claude, ChatGPT y varias herramientas de codificación con IA, la IA ha pasado de ser una simple herramienta de generación de texto a convertirse en “agentes inteligentes” capaces de programar, analizar datos, ejecutar tareas automáticamente e incluso construir flujos de trabajo completos.

Pero cuanto más poderosa es la IA, más complejos se vuelven los desafíos de gobernanza para las empresas. Algunos reportes recientes apuntan que el uso no autorizado de herramientas generativas de IA por parte de empleados está generando lo que se denomina como el problema de “shadow AI”. Los riesgos clave para las empresas incluyen pérdida de control sobre datos confidenciales, incidentes de ciberseguridad, errores o sesgos en los resultados del modelo, problemas de propiedad intelectual y falta de registros confiables para decisiones importantes.

Por lo tanto, en lugar de prohibir simplemente el uso de IA entre sus empleados, cada vez más empresas están adoptando modelos de gestión más segmentados. Por ejemplo, clasifican los escenarios de uso de IA según la sensibilidad de los datos, las consecuencias de los errores y la importancia para la toma de decisiones empresariales, y establecen distintos niveles de permisos para distintos grupos de empleados. Desde esta perspectiva, que Goldman Sachs limite las herramientas avanzadas de programación como Claude Code y GitHub principalmente al grupo de ingenieros, puede verse como una transición de un modelo de “experimentación abierta” hacia una “gestión especializada” de la gobernanza de IA.