La apariciĆ³n de grandes modelos de idiomas (LLM), como Chatggpt, lanzĆ³ una discusiĆ³n apasionada sobre su posible naturaleza consciente.
Hay pocos usuarios, entre ellos personas con capacitaciĆ³n cientĆfica o humanista, que afirman notar los signos de la vida interna, las emociones e incluso en estos sistemas. Argumentan que ciertos intercambios verbales revelan emociones complejas, empatĆa, autocersistencia e incluso sufrimiento.
Esta ilusiĆ³n describiĆ³ al cientĆfico y filĆ³sofo estadounidense Douglas Richard Hofstadter como una confusiĆ³n peligrosa entre el uso sofisticado del lenguaje y la experiencia subjetiva de la conciencia real. Su crĆtica indica la forma en que muchos entusiastas interpretan la complejidad verbal como una seƱal integral, sin reparar una diferencia crucial entre el lenguaje y la experiencia en la generaciĆ³n. Esta es exactamente la diferencia, entre los productos textuales y la subjetividad de la vida, lo que permite la cuestiĆ³n de la idea de que el sistema de idiomas estĆ” en sĆ mismo, alcanzar la conciencia.
IlusiĆ³n de conciencia y efectos de Eliza
Este fenĆ³meno no es nuevo. 1966 El cientĆfico informĆ”tico Joseph Weizenbaum desarrollĆ³ Eliza, un programa simple que imitĆ³ al terapeuta. A pesar de su simplicidad, muchos usuarios llegaron a creer que el sistema los entendĆa. Esta reacciĆ³n fue profundamente preocupada por el programa, que advirtiĆ³ en su influyente libro Fuerzas y la razĆ³n humana (1976) de riesgos Ć©ticos y epistemolĆ³gicos para atribuir la vida mental al software.
Los modelos lingĆ¼Ćsticos como chatgpt no entienden
Hoy, sesenta aƱos despuĆ©s, con una capacidad verbal de LLM, Eliza Effect ha regresado reforzado. Los sistemas actuales no solo reformulan las preguntas, sino que generan textos con coherencia narrativa, referencias filosĆ³ficas, giros elegantes e incluso formas de humor. Sin embargo, esta competencia verbal no implica el interior o la comprensiĆ³n.
LLM no comprende los conceptos que indican o tienen experiencia sobre lo que describen. EIF Eliza es proyectar la conciencia donde solo existen estructuras lingĆ¼Ćsticas generadas estadĆsticamente. El resultado son tĆ©cnicas sofisticadas que maximizan la probabilidad de la siguiente palabra basada en patrones extraĆdos de un gran corpus de lenguaje.
Fluidez de los modelos de idiomas
Una de las grandes trampas epistĆ©micas LLM es su fluidez. Su capacidad para construir un discurso por cohesiĆ³n y elegancia gramatical los hace extremadamente convincentes. El cientĆfico y filĆ³sofo estadounidense Douglas Hofstadter (2007) calificĆ³ esta capacidad de "fluidez superficial". Es, la capacidad de combinar condiciones y expresiones sin importar reflexiĆ³n o conciencia real. Lo que parece un pensamiento profundo es en realidad con una sofisticada maciĆ³n verbal.
Esto es, en tĆ©rminos del filĆ³sofo Luciano Florida (2019), "inteligencia artificial sin semĆ”ntica". O, en tĆ©rminos del filĆ³sofo de la ciencia, Daniel Dennett (2018), "Habilidad sin comprensiĆ³n".
¿QuĆ© es ser un bate?
Para entender por quĆ© la fluidez verbal no significa concienzudamente, es apropiado volver a la filosofĆa. FilĆ³sofo Thomas Nagel, en su famoso ¿QuĆ© es ser un bate? (1974) (¿CĆ³mo estĆ” el murciĆ©lago?), Afirma que la conciencia implica un punto de vista subjetivo, una calidad fenomenolĆ³gica que evita una descripciĆ³n objetiva.
Esta opacidad de la experiencia subjetiva, llamada Qualia, define la conciencia de Nagel como si algo difiera radicalmente de cualquier simulaciĆ³n de computadora. Por mucho que entendamos el funcionamiento del cerebro del murciĆ©lago, nunca sabremos lo que siente.
Los modelos de idiomas no tienen experiencias internas. Crean frases que "hablan" de amor, miedo o muerte, pero sin sentir amor, miedo o saben quĆ© morir. Carecen de lo que el filĆ³sofo Thomas Metzinger (2003) llama "modelos con acceso consciente". Son mĆ”quinas sin punto de vista.
Sin sistemas
Para profundizar esta diferencia, la fenomenologĆa del filĆ³sofo francĆ©s Maurice Merlea-Ponti revela especialmente. Merleau-Ponti afirma que la conciencia no es un mero proceso mental o un conjunto de datos simbĆ³licos, sino que estĆ” conectado incapilmente con el cuerpo sino con el mundo encarnado. En su fenomenologĆa de la percepciĆ³n (1945), describe la conciencia como una experiencia en la que el cuerpo no es solo un objeto, sino el objeto primario a travĆ©s del cual el mundo se experimenta y habitan.
Fingir que el sistema sin un cuerpo, sin un mundo vivo y sin tiempo interno, puede experimentar conciencia es equivalente a eliminar sus condiciones bƔsicas.
Los LLM pueden articular frases sobre el sufrimiento o la belleza, pero no pueden mudarse, porque carecen por completo de una experiencia sensorial motora de que estƔn en el hijo de Merlea-Ponti que no estƔ en un estado de verdadera conciencia.
HabitaciĆ³n china
En una lĆnea similar, el filĆ³sofo John Searle (1980) ilustra esta ausencia de comprensiĆ³n a travĆ©s de su experimento mental de la sala china. Una persona sin conocimiento chino puede ser respondida perfectamente en problemas en ese idioma si hay un manual con reglas sintĆ”cticas precisas. A los ojos de un observador externo, parece entender eso. Pero no hay comprensiĆ³n real, solo manipulaciĆ³n sintĆ”ctica.
Por lo tanto, estĆ”n trabajando, para ser imbuidos, sistemas informĆ”ticos: pueden simular la comprensiĆ³n, pero no pretenden o una experiencia consciente. Esta analogĆa estĆ” directamente relacionada con las LLM: producen textos creĆbles sin comprensiĆ³n semĆ”ntica o intenciones comunicativas.
La crĆtica del filĆ³sofo Hubert Dreifus complementa esta perspectiva. En el cual las computadoras no pueden hacer (lo que las computadoras no pueden hacer, 1972), insiste en que la inteligencia humana surge de una relaciĆ³n prĆ”ctica y encarnada con el mundo, la posibilidad de mover contextos complejos que los algoritmos no poseen. Por lo tanto, aunque los LLM pueden crear textos consistentes y sofisticados, sin una comprensiĆ³n experimental y situacional que la base de la conciencia y la inteligencia humana.
La ilusiĆ³n de la conciencia en LLM es un espejismo que nace al diseƱar experiencias humanas en mĆ”quinas que carecen del cuerpo y la experiencia.
Trampa de espejo
La clave del problema no vive en mĆ”quinas, sino en humanos. Lo que sucede en muchos casos es que diseƱamos nuestros esquemas cognitivos en mĆ”quinas. Eso es lo que Hofstadter llama "trampa de espejo": creemos que vemos la mente donde solo hay palabras. Vemos la conciencia porque queremos verlo, porque anhelaremos encontrar el reflejo de nuestro lado interior en el fondo. Como explica la sociĆ³loga Sherri Turkle (2011), no estamos buscando mĆ”quinas conscientes, sino tambiĆ©n relaciones significativas, aunque ilusorias, con entidades que nos devuelven "mirar".
Esta proyecciĆ³n puede tener consecuencias importantes. A nivel afectivo, corremos el riesgo de desarrollar relaciones con entidades que no pueden adaptarse a ellas. A nivel epistemolĆ³gico, confundimos el rendimiento con la realidad. A nivel social, podrĆamos legitimar las decisiones automatizadas que simulan la empatĆa sin tenerla y podrĆa debilitar nuestra comprensiĆ³n humana al confundir la experiencia con la experiencia. A nivel legal, incluso podrĆa conducir a los derechos de entrega y responsabilidad a los sistemas que no pueden experimentarse.
Si no aprendemos a distinguir el lenguaje y la experiencia, entre patrones y antecedentes, entre perforaciĆ³n y tema, corremos el riesgo de empaparse en una nueva forma de tecnociencia del animismo.
Antes de que ella declarara que las mĆ”quinas estaban emocionadas, tal vez deberĆamos despertar nuestra fascinaciĆ³n con sus reflejos.
.webp)
0 Comentarios