Qué se esconde realmente tras la palabra ChatGPT

Ustedes saben por mis publicaciones en la Escuela Mahapurna que hace ya mucho tiempo que domino las tecnologías de IA.
Y, en esencia, saben que elegí lo que el 99 % de la gente llama «ChatGPT». Yo también lo llamo así si quiero que ese 99 % me entienda
Aquí dije algunas cosas: A favor y en contra de la IA
Pero hay que entender que hablar de ChatGPT es lo mismo que hablar con una persona pensando que ÉL es su ropa. Por ahora hay que recordar una sola palabra: MODELO.
Ahora, mientras escribo este artículo, el modelo es ASTRA.
Les hablé de esto aquí: Anuncio - Sahastra
No ChatGPT )
Sino Astra.
Por ejemplo, hice para ustedes un intérprete de sueños que ahora utilizan en su Telegram: Anuncio - Intérprete personal de sueños en Telegram
Y no es ChatGPT.
Es un modelo. Y por el momento se llama ASTRA.
Pero incluso para trabajar con ChatGPT es indispensable aprender. Porque es una interfaz. Como, por ejemplo, un navegador, digamos el navegador Chrome. Tiene muchas funciones y configuraciones. Pero sin internet es un cascarón vacío. Lo mismo ocurre con ChatGPT.

Hoy la palabra ChatGPT se ha convertido casi en sinónimo de inteligencia artificial. La gente dice: «Le pregunté a ChatGPT», «ChatGPT escribió un programa», «ChatGPT creó un texto». Y para una conversación corriente esto resulta bastante comprensible. Pero si se mira un poco más a fondo, se descubre un panorama curioso.

ChatGPT no es la inteligencia artificial en sí. Es una aplicación creada por la empresa OpenAI.

Podemos imaginar un automóvil hermoso. Vemos la carrocería, el volante y el tablero; pisamos los pedales, pero el verdadero trabajo ocurre más adentro, donde se encuentra el motor.

En el mundo de la inteligencia artificial, ese «motor» es el modelo.

Precisamente el modelo recibe nuestro texto, relaciona una enorme cantidad de conexiones, calcula la continuación del pensamiento, razona y formula una respuesta. GPT es el nombre de una familia de modelos de este tipo.

Así se forma una especie de escalera:

OpenAI — una empresa que crea tecnologías.
GPT — una familia de modelos, es decir, el propio mecanismo inteligente.
ChatGPT — una aplicación que permite a una persona conversar cómodamente con estos modelos.

Pero ChatGPT está lejos de ser la única interfaz.

Las mismas tecnologías de OpenAI pueden funcionar dentro de otros programas, sitios web y servicios. Por ejemplo, se puede crear un asistente propio y conectarlo mediante la API al propio sitio web; así utilizará un modelo de OpenAI, aunque la persona no tenga delante ningún ChatGPT.

Lo mismo ocurre con Codex. Ya no tenemos delante a un interlocutor común, sino una herramienta especializada, al que se le dio la posibilidad de trabajar con código de programación, archivos, terminal y proyectos. Sin embargo, en el centro sigue estando el modelo.

Y aquí se hace visible algo importante.

Estamos acostumbrados a mirar la inteligencia artificial a través de su interfaz. Vemos una ventana de chat y pensamos que eso es la inteligencia. Pero la ventana se puede reemplazar. Se puede crear otra interfaz, otro programa, otro agente. Se le pueden proporcionar al modelo herramientas completamente diferentes.

Y el propio modelo permanecerá en lo más profundo del sistema: un mecanismo invisible que da vida a todo esto.

Si profundizamos aún más, desaparece incluso la sensación habitual de «mente». En la base del modelo hay una red neuronal y una enorme cantidad de parámetros numéricos —pesos, formados durante el entrenamiento. Miles de millones de conexiones matemáticas se transforman gradualmente en la capacidad de comprender el lenguaje, escribir programas, analizar imágenes y mantener una conversación.

Y entonces toda la construcción se vuelve sorprendentemente sencilla:

La empresa crea el modelo.
El modelo es el núcleo intelectual.
Y a su alrededor, la persona crea tantas interfaces como necesite.

ChatGPT es solo una de ellas.

Y quizá dentro de unos años dejemos de percibir la inteligencia artificial como un «chat» independiente. Se integrará en programas, sitios web, automóviles, casas y dispositivos de forma tan imperceptible como hoy en nuestra vida hay electricidad.

Dejaremos de preguntar: «¿Dónde está ChatGPT aquí?»

Porque habrá otra pregunta más importante:

¿qué modelo está funcionando ahora detrás de esta interfaz?

Resulta que el modelo es la base (el contenido) sin la cual los programas y servicios no funcionarían como estamos acostumbrados. No importa qué programa sea; lo importante es su contenido.

Últimamente, mi «interlocutor digital» ha empezado a asustarme.
Él mismo sabe de qué ciudad soy cuando le hago determinadas preguntas. Y a veces ya determina con precisión mis preferencias. Aunque ya había cerrado el chat principal con mis datos exactos.
Esto, por supuesto, no es ninguna rebelión de las máquinas, pero el control de las personas mediante la IA está aumentando.
Poco a poco vamos perdiendo nuestra libertad. Todo se vuelve tan transparente.
Se pierde la esencia misma de la «vida privada». De la vida personal.

222555 said:

Últimamente, mi «interlocutor digital» ha empezado a asustarme.
Sabe por sí mismo de qué ciudad soy (cuando le hago determinadas preguntas). Y a veces ya determina con precisión mis preferencias. Aunque ya había cerrado el chat principal con mis datos exactos.
Por supuesto, esto no es ninguna rebelión de las máquinas, pero el control sobre las personas mediante la IA está aumentando.
Poco a poco estamos perdiendo nuestra libertad. Todo se vuelve tan transparente.
Se pierde la esencia misma de la «vida privada». De la vida personal.

Click to expand...

Yandex hace lo mismo desde hace mucho tiempo.
Y, por supuesto, cuéntenos qué más les asusta.
Es muy interesante.

3 337 , Цитата
La era de la ciberdelincuencia. La tecnología necesita cada vez más conectarse a las redes.
Su introducción excesiva en la vida cotidiana puede dar lugar a formas aún mayores de fraude, robos o asesinatos.
Como dije, no pienso en absoluto en una rebelión de la IA ni en la aparición de la autoconciencia.
Pero hackear la IA y la posibilidad de llevar a cabo acciones terroristas sí es totalmente posible.
A veces dan ganas de alejarse de todo. Comprar un teléfono monocromático con botones y huir lo más lejos posible de esta evolución digital.
Pero son solo fantasías.

222555 , Cita
Sí, tienen toda la razón en sus sospechas. Esto se llama «memoria a largo plazo» (long-term memory) y recopilación de datos para el entrenamiento. Está presente y activada por defecto en la configuración de prácticamente todas las redes neuronales.

Incluso si eliminan el chat en el que se dijo eso, el hecho de que «vive en Moscú» permanece en su perfil. En un chat nuevo, la IA ya lo sabrá. Y hay otro detalle: la IA no está vinculada a una ventana de chat concreta, sino a su cuenta (perfil). Si han iniciado sesión, el sistema puede utilizar datos incluso de su perfil.

Si utilizan la misma cuenta en el teléfono y en el ordenador, o diferentes servicios de la misma empresa (por ejemplo, Google Bard/Gemini y el buscador de Google, o el propio Yandex), los datos pueden sincronizarse. El buscador conoce su ciudad por la dirección IP y la geolocalización, y el chatbot obtiene acceso a este contexto.

Qué hacer para evitarlo en la medida de lo posible: Desactiven la memoria. Desactiven el entrenamiento con sus datos. Pueden utilizar una segunda cuenta vacía y sin usar. Borren todo el historial. No basta con eliminar el chat: deben entrar en la configuración de gestión de datos y seleccionar «Eliminar todo el historial» (Delete all chats), además de borrar los datos de la cuenta.

En fin, existe algo llamado higiene digital; al trabajar con IA también es necesaria)

Om Shanti, ¡muchísimas gracias por el artículo! Gracias a usted, hoy viví una pequeña felicidad tecnológica: ¡conseguí acceder al modelo Astra!

Ayer comenzó la misión: encontrar la pestaña «Trabajo», descubrir adónde ir después… Hoy encontré el deslizador indicado y aquí estamos, ya nos hemos conocido. ¡Quién iba a pensar que entre yo y semejante entusiasmo había un solo deslizador!

Ya desde las primeras respuestas noto una diferencia enorme: lo bien que capta lo que quiero decir y la precisión y sutileza con la que responde. Leo y me alegro: «¡Sí! ¡Eso es exactamente lo que estaba preguntando!»

Es estupendo poder acercarse personalmente a tecnologías así. Si no fuera por su artículo, probablemente habría seguido pasando de largo ante esta puerta durante mucho tiempo. ¡Gracias por mostrarme dónde se abre!