Antes de los prompts complejos, los cimientos: ChatGPT no es una fuente de verdad absoluta sino un modelo probabilístico. Aquí aprendes sus límites y a usarlo de forma responsable para no llevarte sustos.
En la primera clase del curso de ChatGPT vamos a abordar los cimientos necesarios para utilizar esta tecnología: el uso responsable y sus límites.
Antes de empezar a generar «prompts» complejos, es vital que entendamos qué tenemos entre manos. No estamos ante una fuente de verdad absoluta, sino ante un modelo probabilístico. Por eso, en esta lección aprenderemos a usar ChatGPT con cabeza, entendiendo qué puede hacer, dónde suele equivocarse y, lo más importante, cómo ponerle «barandillas» para que no descarrile.
Vamos a detectar los cinco límites clásicos de la herramienta: desde las famosas alucinaciones y la desactualización, hasta los sesgos y los problemas de privacidad. Además, veremos por qué nunca debemos delegar decisiones críticas en ámbitos regulados como el médico, el financiero o el legal.
Para contrarrestar estos riesgos, definiremos cinco prácticas de seguridad imprescindibles, como la verificación de datos, la división de tareas o el uso de la técnica «Red Team». Todo ello con el objetivo de que la IA sea nuestro copiloto, pero nunca el piloto automático de nuestra vida o negocio.
¡Vamos a ponernos manos a la obra!
⚙️ Prompt utilizado
Pues ya lo vemos, hemos sentado las bases para trabajar con seguridad y eficacia. Hemos comprendido que un modelo generativo no produce verdades garantizadas, sino textos probables basados en estadística.
Hemos desgranado los cinco límites principales que siempre debemos tener en el radar: alucinaciones, datos desactualizados, sesgos heredados, privacidad y los peligros en ámbitos regulados. Ya sabemos que, aunque la herramienta afirme algo con un 100% de confianza, puede estar inventándose los hechos, tal y como hemos comprobado en el ejemplo práctico sobre la historia del Cid Campeador.
Además, nos llevamos una metodología clara para evitar sustos: verificar siempre las fuentes, pedir al modelo que nos explique sus suposiciones y su nivel de confianza, y trabajar paso a paso dividiendo las tareas complejas en instrucciones más sencillas. También hemos visto la importancia de anonimizar los datos sensibles antes de compartirlos con el chat.
Como ejercicio práctico, vamos a elegir un tema cotidiano (como un plan de estudios semanal, un menú saludable o una rutina de gimnasio) y le pediremos a ChatGPT que lo desarrolle aplicando las «barandillas» que hemos visto. Le solicitaremos una estructura clara, que enumere sus suposiciones y niveles de confianza, y que nos proponga formas de verificar esa información externamente.
Deja una respuesta