Recientemente, el fundador de NVIDIA, Jensen Huang, cuya compaƱĆa construye los chips que alimentan los sistemas de inteligencia artificial mĆ”s avanzados de hoy,: "Lo que es realmente, muy sorprendente es la forma en que programas una IA es como la forma en que programas una persona". Ilya Sutskever, cofundadora de OpenAi y una de las principales figuras de la RevoluciĆ³n AI, tambiĆ©n que es solo cuestiĆ³n de tiempo antes de que la IA pueda hacer todo lo que los humanos pueden hacer, porque "el cerebro es una computadora biolĆ³gica".
Soy un investigador de neurociencia cognitiva, y creo que estƔn peligrosamente equivocados.
La mayor amenaza no es que estas metĆ”foras nos confundan sobre cĆ³mo funciona la IA, pero que nos engaƱan sobre nuestros propios cerebros. Durante las revoluciones tecnolĆ³gicas pasadas, los cientĆficos, asĆ como la cultura popular, tendieron a explorar la idea de que el cerebro humano podrĆa entenderse como anĆ”logo a una mĆ”quina nueva tras otra: un reloj, una centralita, una computadora. La Ćŗltima metĆ”fora errĆ³nea es que nuestros cerebros son como sistemas de IA.
He visto este cambio en los Ćŗltimos dos aƱos en conferencias, cursos y conversaciones en el campo de la neurociencia y mĆ”s allĆ”. Palabras como "entrenamiento", "ajuste fino" y "optimizaciĆ³n" se usan con frecuencia para describir el comportamiento humano. Pero no entrenamos, afinamos u optimizamos de la manera que AI lo hace. Y tales metĆ”foras inexactas pueden causar daƱo real.
La idea de la mente del siglo XVII como una "pizarra en blanco" imaginaba a los niƱos como superficies vacĆas formadas por completo por influencias externas. Esto llevĆ³ a sistemas educativos rĆgidos que intentaron eliminar las diferencias en los niƱos neurodivergentes, como aquellos con autismo, TDAH o dislexia, en lugar de ofrecer apoyo personalizado. Del mismo modo, el modelo de "caja negra" de principios del siglo XX de la psicologĆa conductista afirmaba que solo el comportamiento visible importaba. Como resultado, la atenciĆ³n mĆ©dica mental a menudo se centrĆ³ en manejar los sĆntomas en lugar de comprender sus causas emocionales o biolĆ³gicas.
Y ahora hay nuevos enfoques desagradables que surgen a medida que comenzamos a vernos a la imagen de la IA. Las herramientas educativas digitales se desarrollaron, ajustar las lecciones y las preguntas basadas en las respuestas de un niƱo, manteniendo teĆ³ricamente al estudiante en un nivel de aprendizaje Ć³ptimo. Esto estĆ” fuertemente inspirado en cĆ³mo se entrena un modelo de IA.
Este enfoque adaptativo puede producir resultados impresionantes, pero pasa por alto factores menos medibles, como la motivaciĆ³n o la pasiĆ³n. Imagine a dos niƱos que aprenden piano con la ayuda de una aplicaciĆ³n inteligente que se ajusta por su competencia cambiante. Uno aprende rĆ”pidamente a jugar sin problemas, pero odia cada sesiĆ³n de prĆ”ctica. El otro comete errores constantes pero disfruta cada minuto. Juzgando solo en los tĆ©rminos que aplicamos a los modelos de IA, dirĆamos que el niƱo que juega sin problemas ha superado al otro estudiante.
Pero educar a los niƱos es diferente de capacitar un algoritmo de IA. Esa evaluaciĆ³n simplista no darĆa cuenta de la miseria del primer estudiante o el disfrute del segundo niƱo. Esos factores importan; Hay una buena posibilidad de que el niƱo se divierta sea el que todavĆa toque una dĆ©cada a partir de ahora, e incluso podrĆan terminar con un mĆŗsico mejor y mĆ”s original porque disfrutan de la actividad, los errores y todo. Definitivamente creo que la IA en el aprendizaje es inevitable y potencialmente transformadora para mejor, pero si evaluamos a los niƱos solo en tĆ©rminos de lo que puede ser "capacitado" y "ajustado", repetiremos el viejo error de enfatizar la producciĆ³n sobre la experiencia.
Veo que esto se desarrolla con estudiantes de pregrado, que, por primera vez, creen que pueden lograr los mejores resultados medidos al externalizar completamente el proceso de aprendizaje. Muchos han estado utilizando herramientas de IA en los Ćŗltimos dos aƱos (algunos cursos lo permiten y otros no) y ahora confĆan en ellas para maximizar la eficiencia, a menudo a expensas de la reflexiĆ³n y la comprensiĆ³n genuina. Utilizan la IA como una herramienta que les ayuda a producir buenos ensayos, sin embargo, el proceso en muchos casos ya no tiene mucha conexiĆ³n con el pensamiento original o a descubrir lo que provoca la curiosidad de los estudiantes.
Si seguimos pensando en este marco cerebral como el AI, tambiĆ©n corremos el riesgo de perder los procesos de pensamiento vitales que han llevado a grandes avances en ciencia y arte. Estos logros no provienen de identificar patrones familiares, sino de romperlos a travĆ©s del desorden y los errores inesperados. Alexander Fleming descubriĆ³ la penicilina al notar que el moho que crecĆa en una placa de Petri que habĆa dejado fuera accidentalmente estaba matando a las bacterias circundantes. Un error afortunado cometido por un investigador desordenado que pasĆ³ a salvar la vida de cientos de millones de personas.
Este desorden no es solo importante para los cientĆficos excĆ©ntricos. Es importante para cada cerebro humano. Uno de los descubrimientos mĆ”s interesantes en neurociencia en las Ćŗltimas dos dĆ©cadas es la "red de modo predeterminada", un grupo de regiones cerebrales que se activa cuando estamos soƱando soƱando y no nos enfocamos en una tarea especĆfica. TambiĆ©n se ha encontrado que esta red juega un papel en la reflexiĆ³n sobre el pasado, imaginando y pensando en nosotros mismos y en los demĆ”s. No tener en cuenta este comportamiento de peso mental como una falla en lugar de adoptarlo como una caracterĆstica humana central inevitablemente nos llevarĆ” a construir sistemas defectuosos en educaciĆ³n, salud mental y derecho.
Desafortunadamente, es particularmente fĆ”cil confundir la IA con el pensamiento humano. Microsoft describe modelos de IA generativos como ChatGPT en sus herramientas AS que "reflejan la expresiĆ³n humana, redefiniendo nuestra relaciĆ³n con la tecnologĆa". Y el CEO de Operai, Sam Altman, destacĆ³ recientemente su nueva caracterĆstica favorita en Chatgpt llamada "Memory". Esta funciĆ³n permite al sistema retener y recuperar los datos personales en las conversaciones. Por ejemplo, si le pregunta a ChatGPT dĆ³nde comer, podrĆa recordarle un restaurante tailandĆ©s que mencionĆ³ querer probar meses antes. "No es que conectes tu cerebro en un dĆa", Altman, "pero ... te conocerĆ” y se convertirĆ” en esta extensiĆ³n de ti mismo".
La sugerencia de que la "memoria" de AI serĆ” una extensiĆ³n propia es nuevamente una metĆ”fora defectuosa, lo que nos lleva a malinterpretar la nueva tecnologĆa y nuestras propias mentes. A diferencia de la memoria humana, que evolucionĆ³ para olvidar, actualizar y remodelar recuerdos basados en innumerables factores, la memoria de IA puede diseƱarse para almacenar informaciĆ³n con mucha menos distorsiĆ³n u olvido. Una vida en la que las personas externalizan la memoria a un sistema que recuerda que casi todo no es una extensiĆ³n del yo; Se rompe de los mismos mecanismos que nos hacen humanos. MarcarĆa un cambio en cĆ³mo nos comportamos, entendemos el mundo y tomamos decisiones. Esto podrĆa comenzar con cosas pequeƱas, como elegir un restaurante, pero puede avanzar rĆ”pidamente a decisiones mucho mĆ”s grandes, como tomar una carrera profesional diferente o elegir un compaƱero diferente de lo que tendrĆamos, porque los modelos de IA pueden superficial de las conexiones y el contexto que nuestros cerebros pueden haber despejado por una razĆ³n u otra.
Esta subcontrataciĆ³n puede ser tentadora porque esta tecnologĆa parece humana para nosotros, pero la IA aprende, comprende y ve al mundo de maneras fundamentalmente diferentes, y realmente no experimenta dolor, amor o curiosidad como nosotros. Las consecuencias de esta confusiĆ³n en curso podrĆan ser desastrosas, no porque la IA sea inherentemente daƱina, sino porque en lugar de darle forma a una herramienta que complementa nuestras mentes humanas, permitiremos que nos remodele a su propia imagen.
A Ć©l baja el tope y el phD candidato en neurociencia cognitiva en la Universidad de Columbia y autor de la novela ". ". Su boletĆn de subsportaciĆ³n, conecta las ideas de neurociencia con el comportamiento humano.
.webp)
0 Comentarios