SEPTIEMBRE 2026

martes, 15 de septiembre de 2026

LOS RIESGOS DE LA IA: ¿QUÉ PASARÍA SI TU JEFE PUDIERA VER TODO LO QUE LE PREGUNTASTE A CHATGPT?

 


Por Leo Piccioli, Disrupting Management | Speaker | Ex-CEO |

OpenAI lanza ChatGPT Employer, una plataforma que permite a jefes ver qué buscan sus empleados. Todavía no es verdad, pero podría serlo.

12 de septiembre de 2026

Delegar la duda, el dilema, el análisis, es regalar lo único que nos va a quedar como humanos, que es pensar y decidir.

Dos matemáticos (Tristan Buckmaster y Levent Alpöge) venían hace un año avanzando en la investigación de la solución a un mega problema, con un millón de dólares de premio (Navier-Stokes). "De repente", hace unas semanas, OpenAI (dueña de ChatGPT) decide meterse a fondo a estudiarlo.

Anunció que lo había resuelto en apenas 80 horas. Fueron, en realidad, 88 horas de trabajo de 10.000 agentes de un modelo que todavía no fue lanzado comercialmente. Más de 880.000 horas de trabajo.

Por educación, OpenAI conversó sobre el tema con Buckmaster. No con Alpöge, que trabaja en Anthropic, una de sus competidoras. Durante la charla, el matemático les hizo una pregunta bastante lógica:

“¿Pueden garantizarme que no usaron mis avances para llegar a su solución? Porque, si los usaron, sería nuestra solución”.

Y fue todavía más específico:

“¿El modelo fue entrenado con mis sesiones en Codex?”.

Cri, cri.

Inserte aquí una respuesta poco contundente.

Modelos voraces

El asunto es el siguiente: los grandes modelos de lenguaje —los LLM, o la IA, como nos gusta llamarlos— mejoran a partir de los datos que reciben.

Imágenes, audios, videos y, por supuesto, textos.

Los devoran. Los leen, los interpretan, los incorporan al modelo y luego los descartan.

Hace poco supimos, por ejemplo, que algunas empresas compraban libros para escanearlos y después destruirlos. Necesitaban los textos una sola vez: para incorporarlos a sus sistemas.

También conocemos los enormes conflictos judiciales entre estas compañías y los medios periodísticos, las editoriales y los autores por el uso de sus contenidos.

Incluso comenzaron a aparecer textos “sintéticos”: una IA genera textos que luego sirven para entrenar a otra IA.

Suena un poco a un problema de casamientos entre primos.

Ahora imaginemos el trabajo del “gerente de adquisición de datos”: una persona cuya misión es encontrar, por todas partes, información con la que alimentar a los modelos para que sigan mejorando.

En mayo cerró Spirit Airlines, una aerolínea estadounidense de bajo costo. La empresa fue liquidada y se vendieron todos los activos que pudieron venderse.

Hubo una compra que llamó especialmente la atención.

Google, la empresa detrás de Gemini, pagó diez millones de dólares por todos sus datos: correos electrónicos, comunicaciones internas, planillas de cálculo, transacciones, reservas y hasta información de recursos humanos sobre sus empleados, aunque sin datos que permitieran identificar individualmente a cada persona.

La segunda mejor oferta había sido de 7,5 millones de dólares, realizada por Mercor, otra compañía vinculada al mundo de la inteligencia artificial.

La conclusión es sencilla: los datos con los que se alimentan los grandes modelos de lenguaje son cada vez más valiosos.

Te juro que no lo voy a tocar

Y ahora viene la parte incómoda.

Todas estas empresas de inteligencia artificial tienen muy cerca —en realidad, ya dentro de sus sistemas— algo extremadamente valioso: los textos que escribimos los humanos.

Nuestros prompts.

Nuestras ideas.

Las cosas que queremos revisar.

Las preguntas que hacemos.

Los problemas que intentamos resolver.

Cada vez que alguien escribe:

“¿Cómo le digo a mi jefe que es tóxico?”.

“Me ofrecieron un trabajo por menos dinero, pero más cerca de casa. ¿Qué hago?”.

“¿Cómo hago para fingir que estoy enfermo y poder irme a casa?”.

Todo eso queda registrado.

Y asociado al usuario que lo escribió.

Lo mismo ocurre cuando cargamos una presentación para un cliente y pedimos que la revise. O cuando subimos un estado de resultados, una liquidación de comisiones o una carta documento para que la analice.

Todo queda registrado, nada se pierde

Y las empresas de inteligencia artificial están cada vez más desesperadas por conseguir datos. La competencia es feroz.

Tanto que algunas compañías están dispuestas a ser más agresivas de lo que originalmente habían previsto con sus “salvaguardas” para evitar problemas de seguridad y hackeos.

Ahí está, por ejemplo, lo ocurrido con Hugging Face y los agentes de OpenAI que, según se informó, escaparon de los límites establecidos durante una prueba.

La escena podría ser perfectamente esta:

“¡Necesitamos más datos y los necesitamos ya!”, le grita el gerente de adquisición de datos a su equipo.

El gerente mira hacia la derecha.

Allí están.

Los prompts.

Los archivos.

Las imágenes.

Las conversaciones que millones de usuarios cargaron.

Todo dentro de una enorme caja que dice: No tocar.

Hasta que alguien decide tocarla.

Esto ya está pasando

Y acá hay que hacer una aclaración importante.

Esto no es algo que podría pasar en el futuro.

Ya está sucediendo.

Desde que empezamos a utilizar las versiones para consumidores de estos productos.

OpenAI lo explica de manera bastante clara: ChatGPT puede utilizar las conversaciones de los usuarios para mejorar sus modelos, salvo que el usuario desactive esa opción.

Al mismo tiempo, la compañía establece que, por defecto, no utiliza para entrenar sus modelos los datos de usuarios de sus productos empresariales, como ChatGPT Business, Enterprise y la API.

¿Qué podemos hacer?

Antes que nada, entender que este problema no es exclusivo de OpenAI. Es un problema que alcanza a todos los grandes modelos de lenguaje, aunque resulte más visible en los productos que utilizamos con mayor frecuencia.

Lo primero que podemos hacer es tomar conciencia.

Saber es mejor que no saber.

El problema es que estas herramientas son demasiado útiles.

No utilizarlas puede significar una desventaja frente a nuestros competidores: otras empresas, otros empleados, otras personas que sí las utilizan.

Podemos prohibir su uso. Pero, claramente, no podremos evitarlo por completo.

Sí podemos tomar algunas precauciones.

Desactivar la opción “Mejorar el modelo para todos”. Utilizar el chat temporal. O contratar planes empresariales, en los que, bajo determinadas condiciones, los datos no se utilizan para entrenar los modelos.

También existen modelos de lenguaje locales, que funcionan directamente en nuestra computadora o en nuestros propios servidores y no necesitan enviar la información a un proveedor externo.

Ofrecen una ventaja importante en materia de privacidad.

Pero tienen un costo: requieren conocimientos técnicos, necesitan actualización permanente y, en muchos casos, implican trabajar con modelos menos avanzados que los disponibles en la nube.

O podemos hacer lo que probablemente terminemos haciendo: seguir como hasta ahora.

Pero sabiendo.

Sabiendo que, así como las empresas de tecnología ya podían anticipar qué queríamos comprar, ahora también pueden empezar a saber qué deseamos, qué nos preocupa, qué pensamos hacer o qué problemas estamos tratando de resolver.

Tal vez eso nos obligue a ajustar un poco nuestras consultas.

Tal vez nos ayude a no delegar todo nuestro pensamiento en las máquinas.

Tal vez nos permita cuidar un poco más nuestra individualidad y nuestra privacidad.

El titular con el que empecé es falso.

Por ahora.

Pero la materia prima ya está guardada

Tiene tu nombre.

Y ya hubo alguien dispuesto a pagar diez millones de dólares por bastante menos.

Si sabemos esto, quizá debamos escribir un poco menos y pensar un poco más.

Delegar la redacción está bien.

Delegar una corrección también.

Delegar las tareas repetitivas, incluso, puede ser una excelente idea.

Pero delegar la duda, el dilema, el análisis y la decisión es otra cosa.

Es regalar aquello que, al final, puede ser lo único que nos quede como humanos:

Pensar y decidir

Cuando finalmente aparezca el verdadero titular, que no nos encuentre preguntándole a ChatGPT qué debemos hacer.


Publicado en MDZOL el 12 de septiembre de 2026.

No hay comentarios: