A los 77 años, Geoffrey Hinton tiene una nueva vocación en la vida. Como un profeta moderno, el ganador del Premio Nobel está generando alarmas sobre los peligros de la inteligencia artificial no controlada y no regulada.
Con frecuencia llamado el "Padrino de AI", Hinton es conocido por su trabajo pionero en el aprendizaje profundo y las redes neuronales que ayudaron a sentar las bases de la tecnología AI que a menudo se usa hoy. Sintiéndose "algo responsable", comenzó a hablar públicamente sobre sus preocupaciones en 2023 después de dejar su trabajo en Google, donde trabajó durante más de una década.
A medida que la tecnología, y los dólares de inversión, que alimentan la IA han avanzado en los últimos años, también lo han hecho las apuestas detrás de ella.
"Realmente es divino", dijo Hinton.
Hinton se encuentra entre un número creciente de figuras tecnológicas prominentes que hablan de IA usando el lenguaje que una vez reservado para lo divino. El CEO de Openai, Sam Altman, se ha referido a la tecnología de su compañía como un tiempo que Peter Thiel, el cofundador de PayPal y Palantir, incluso ha argumentado que AI podría ayudar a lograr
¿AI traerá condena o salvación?
Hay muchos escépticos que dudan de que la tecnología merece este tipo de miedo, incluido Dylan Baker, un ex empleado de Google e ingeniero de investigación líder en el Instituto de Investigación de AI distribuida, que estudia los impactos nocivos de la IA.
"Creo que a menudo están operando a partir de un pensamiento fantástico mágico informado por mucha ciencia ficción que presumiblemente obtuvieron en sus años de formación", dijo Baker. "Están realmente separados de la realidad".
Aunque los chatbots como ChatGPT solo penetraron recientemente al espíritu de los espíritus, ciertos círculos de Silicon Valley han profetizado el poder de la IA durante décadas.
"Estamos tratando de despertar a la gente", dijo Hinton. "Hacer que el público comprenda los riesgos para que el público presione a los políticos para que hagan algo al respecto".
Si bien investigadores como Hinton advierten sobre la amenaza existencial que creen que la IA plantea para la humanidad, hay CEO y teóricos al otro lado del espectro que argumentan que estamos abordando una especie de apocalipsis tecnológico que marcará el comienzo de una nueva era de la evolución humana.
En un último año titulado "Máquinas de la gracia amorosa: cómo AI podría transformar el mundo para mejor", el CEO Anthrope Dario Amodei presenta su visión para un futuro "Si todo va bien con la IA".
El empresario de IA predice "la derrota de la mayoría de las enfermedades, el crecimiento de la libertad biológica y cognitiva, el levantamiento de miles de millones de personas por pobreza para compartir las nuevas tecnologías, un renacimiento de la democracia liberal y los derechos humanos".
Mientras AmoDei opta por la frase "AI poderosa", otros usan términos como "La singularidad" o "Inteligencia General Artificial (AGI)". Aunque los defensores de estos conceptos a menudo no están de acuerdo en cómo definirlos, se refieren ampliamente a un punto futuro hipotético en el que la IA superará la inteligencia a nivel humano, lo que potencialmente desencadena cambios rápidos e irreversibles en la sociedad.
El informático y autor Ray Kurzweil ha estado prediciendo desde la década de 1990 que los humanos algún día se fusionarán con la tecnología, un concepto a menudo llamado transhumanismo.
"No vamos a decir qué proviene de nuestro propio cerebro frente a lo que proviene de la IA. Todo se va a incrustarse dentro de nosotros mismos. Y nos hará más inteligentes", dijo Kurzweil.
En su último libro, "La singularidad está más cerca: cuando nos fusionamos con la IA", Kurzweil duplica sus predicciones anteriores. Él cree que para 2045 habremos "multiplicado nuestra propia inteligencia un millón de veces".
"Sí", admitió finalmente cuando se le preguntó si considera que AI es su religión. Informa su sentido de propósito.
"Mis pensamientos sobre el futuro y el futuro de la tecnología y la rapidez con que se avecina definitivamente afecta mis actitudes hacia estar aquí y lo que estoy haciendo y cómo puedo influir en otras personas", dijo.
Visiones de la burbuja de apocalipsis
A pesar de la invocación explícita del lenguaje de Thiel del Libro de Apocalipsis, las visiones positivas de un futuro de IA son más "apocalípticos" en el sentido histórico de la palabra.
"En el mundo antiguo, el apocalíptico no es negativo", explica Domenico Agostini, profesor de la Universidad de Nápoles L'Arientale que estudia literatura apocalíptica antigua. "Hemos cambiado completamente la semántica de esta palabra".
El término "apocalipsis" proviene de la palabra griega "apokalypsis", que significa "revelación". Aunque a menudo se asocia hoy con el fin del mundo, los apocalipsis en el antiguo pensamiento judío y cristiano eran una fuente de aliento en tiempos de dificultad o persecución.
"Dios promete un mundo nuevo", dijo el profesor Robert Geraci, quien estudia religión y tecnología en Knox College. "Para ocupar ese nuevo mundo, debes tener un nuevo cuerpo glorioso que triunfa sobre el mal que todos experimentamos".
Geraci primero notó que el lenguaje apocalíptico se usaba para describir el potencial de la IA a principios de la década de 2000. Kurzweil y otros teóricos finalmente lo inspiraron a escribir su libro de 2010, "AI apocalíptica: visiones del cielo en robótica, inteligencia artificial y realidad virtual".
El idioma le recordó al cristianismo primitivo. "Solo vamos a deslizar a Dios y deslizar vamos a ... tu elección de leyes de ciencias cósmicas que supuestamente hacen esto y luego íbamos a tener el mismo tipo de futuro glorioso por venir", dijo.
Geraci argumenta que este tipo de lenguaje no ha cambiado mucho desde que comenzó a estudiarlo. Lo que le sorprende es lo generalizado que se ha vuelto.
"Lo que una vez fue muy extraño es algo en todas partes", dijo.
¿Silicon Valley finalmente ha encontrado su Dios?
Un factor en el creciente culto a la IA es la rentabilidad.
"Hace veinte años, esa fantasía, verdadera o no, en realidad no estaba generando mucho dinero", dijo Geraci. Ahora, sin embargo, "hay un incentivo financiero para Sam Altman diciendo que AGI está a la vuelta de la esquina".
Pero Geraci, quien argumenta que Chatgpt "ni siquiera es remotamente, vagamente, consciente plausiblemente", cree que puede haber más impulsar este fenómeno.
Históricamente, el mundo tecnológico ha estado notoriamente desprovisto de religión. Su reputación secular lo precedió tanto que un episodio de la serie satírica de comedia de HBO, "Silicon Valley", gira en torno a "Equino" a un compañero de trabajo como Christian.
En lugar de ver la veneración del mundo de la tecnología escéptica de la IA como irónica, Geraci cree que están causalmente vinculados.
"Los seres humanos somos profundamente, profundamente inherentemente religiosos", dijo, y agregó que las impresionantes tecnologías detrás de la IA podrían atraer a las personas en Silicon Valley que ya han dejado de lado "enfoques ordinarios para la trascendencia y el significado".
Ninguna religión es sin escépticos
No todos los CEO de Silicon Valley se han convertido, incluso si quieren en la tecnología.
"Cuando las personas en la industria de la tecnología hablan sobre la construcción de esta verdadera IA, es casi como si crean que están creando a Dios o algo así", dijo el CEO de Meta Mark Zuckerberg el año pasado mientras promovía la propia empresa de su empresa en IA.
Aunque las teorías transhumanistas como las de Kurzweil se han generalizado, todavía no son ubicuas dentro del valle de Silicon.
"El caso científico para eso no es de ninguna manera más fuerte que el caso de una vida futura religiosa", argumenta Max Tegmark, físico e investigador de aprendizaje automático en el Instituto de Tecnología de Massachusetts.
Al igual que Hinton, Tegmark ha sido franco sobre los riesgos potenciales de la IA no regulada. En 2023, como presidente del Future of Life Institute, Tegmark ayudó a encabezar un pidiendo poderosos laboratorios de IA para que "pausen inmediatamente" la capacitación de sus sistemas.
La carta recolectó más de 33,000 firmas, incluso de Elon Musk y el cofundador de Apple Steve Wozniak. Tegmark considera que la carta ha tenido éxito porque ayudó a "convertir la conversación" sobre la seguridad de la IA, pero cree que su trabajo está lejos de terminar.
Con regulaciones y salvaguardas, Tegmark cree que la IA puede usarse como una herramienta para hacer cosas como las enfermedades de la cura y aumentar la productividad humana. Pero es imperativo, argumenta, mantenerse alejado de la carrera "bastante marginal" que algunas compañías están ejecutando: "la búsqueda pseudoreligiosa para tratar de construir un Dios alternativo".
"Hay muchas historias, tanto en textos religiosos como en, por ejemplo, la mitología griega antigua, sobre cómo cuando los humanos comenzamos a jugar a los dioses, termina mal", dijo. "Y siento que hay mucha arrogancia en San Francisco en este momento".
Fauria escribe para Associated Press.
.webp)
0 Comentarios