Por qué decir “por favor” y “gracias” a ChatGPT le cuesta “decenas de millones de dólares” a OpenAI

Bruce Mac Master, presidente de la Andi

Hay algunas personas que no pueden evitar escribirle “por favor” y “gracias” a la inteligencia artificial. Sin embargo, este hábito le cuesta millones de dólares a OpenAI, según reveló Sam Altman, CEO de la compañía matriz de ChatGPT.

“Decenas de millones de dólares bien gastados. Nunca se sabe”, dijo el director ejecutivo luego de que un usuario en X (antes Twitter) se preguntara cuánto dinero podría estar perdiendo OpenAI debido a que los usuarios usan este tipo de expresiones de cortesía al interactuar con los modelos de lenguaje.

Y es que de acuerdo con una publicación de Tom’s Hardware, medio internacional especializado en tecnología, las interacciones educadas con la IA implican un mayor procesamiento de datos, lo que a su vez incrementa los costos energéticos.

“Ejecutar IA es considerablemente costoso”, señala el medio, y “requiere una gran inversión en hardware y consumo energético”.

Es decir, en las conversaciones, ChatGPT procesa el texto dividiéndolo en tokens (partes de palabras o palabras completas) por lo que cuantos más tokens se generan, más trabajo tiene que hacer el modelo. Eso significa más tiempo de cálculo, más uso de GPU y más carga sobre servidores.

Por ejemplo, cuando se escribe “Hola, ¿podrías ayudarme a resumir esto, por favor? Gracias”, se están usando más tokens, forzando al modelo a procesar más información y generando respuestas más largas y complejas. Eso consume más recursos que una instrucción directa como: “Resume esto”.

Lea aquí: Colombia, entre los países con mayor crecimiento en aprendizaje de IA

También están los gastos ambientales. Un estudio de la Universidad de California, citado por The Washington Post, reveló que incluso una respuesta de dos a tres palabras, como “de nada”, puede consumir entre 40 y 50 mililitros de agua en el proceso computacional necesario para generarla.

A pesar del costo, los expertos en diseño de experiencia con IA no están en contra de dar las gracias o pedir el favor a los chatbots. Según Kurtis Beavers, director del equipo de diseño de Microsoft Copilot, explica las ventajas que puede tener el uso de un tono amable en las interacciones con IA.

En una entrevista con WorkLab (Microsoft), Beavers explicó que usar lenguaje cortés “define el tono de la respuesta”. Los modelos de lenguaje, como ChatGPT o Copilot, están entrenados a partir de conversaciones humanas, por lo que tienden a replicar el tono que reciben.

Por lo tanto, la publicación de Microsoft señala que “en lugar de darle órdenes a tu chatbot, empieza tus indicaciones con “por favor”: por favor, reescribe esto de forma más concisa. Dale las gracias cuando responda y asegúrate de decirle que aprecias la ayuda”.

Este tipo de expresiones, según señala WorkLab, “no solo garantiza la misma amabilidad a cambio, sino que también mejora la capacidad de respuesta y el rendimiento de la IA”.

Section
ID externos
5b71b7ad-11d9-46ce-ab59-cabf2c59b036

Compartir en: