RAYMOND KURZWEIL, UNIVERSIDAD DE LA SINGULARIDAD“Kurzweil es un neoyorkino transhumanista y un experto destacado en sistemas tecnológicos y de IA. Desde 2012 es director de Ingeniería y asesor de Google. Su empresa, Kurzweil Technologies, se dedica a fabricar dispositivos electrónicos de conversación máquina-humano y aplicaciones para personas con discapacidad. Por lo demás, impulsa la universidad de la singularidad Delaware valle del silicio”
Por CARLOS COLINA
De modo consensual y formal, la inteligencia artificial se gesta como término, concepto y campo de investigación, hace siete décadas, en la Conferencia del Dartmouth College (1956), de la mano de la paternidad compartida y la visión prospectiva de John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon. La idea era que las máquinas simulasen la inteligencia, la cognición y el aprendizaje humanos.
No obstante, es inconcebible ignorar un precedente germinal en el archiconocido Prueba de Turing (1950). En esta pre-cosecha del primer padre y pionero de la IA, estará presente, específicamente, la idea de la copia y reproducción del comportamiento inteligente humano y la evaluación de dichas simulaciones. Si bien en su artículo seminal, intitulado Máquina computacional e inteligencia, la interrogante inicial y explícita gira en torno a la idea de la capacidad pensante de las máquinas, lo que realmente se indaga con el test es si aquellas son capaces de actuar como un pensador humano, sin que lo constatemos (Harnad, S. 2008). Es decir, se evalúan los resultados de un comportamiento inteligente y no la inteligencia misma, su eficacia en el juego y no como lo hace. La computadora debe simular la humanidad, intentando engañar al interrogador-juez. Si lo logra, podría decirse que “piensa”, según este juego de imitación. Este genial lógico y matemático británico explícita los contraargumentos de su prueba, entre ellos, que las máquinas carecen de diversidad conductual y habilidosa humanas, emociones y conciencia.
En realidad, el contraargumento de la inconciencia ha sido mantenido por algunos autores hasta nuestros días. A finales del siglo XX, cabe recordar los planteamientos del filósofo John Searle, quien formuló la tesis de que los ordenadores no son conscientes ni entienden, a través del sugestivo experimento mental del cuarto chino.
En su artículo “Mentes, cerebros y programas”, publicado en 1980 en la prestigiosa revista Ciencias del comportamiento y del cerebro, Cuestiona la hipótesis de la IA fuerte y rebate la argumentación de la prueba de Turing. El experimento del filósofo estadounidense apuntala la tesis de que manipular símbolos según un programa no es lo mismo que entender su significado. La dimensión sintáctica no es equivalente a la semántica.
Un individuo sin conocimiento del idioma oriental recibe símbolos del mismo dentro de una habitación. No comprende los significados, pero a través de un libro de reglas, escrito en su lenguaje nativo, usa dichos símbolos como elementos definidos exclusivamente de manera formal, y responde correctamente a las interrogantes. La conclusión es que los ordenadores harían lo mismo, por ende, no tienen mente ni conciencia humana, comprensión e intencionalidad. De esta suerte, la mera manipulación de símbolos de cualquier idioma es insuficiente para comprenderlo.
El filósofo denveriano arremete en contra de la hipótesis de la IA fuerte, en el sentido de que un ordenador programado adecuadamente poseería estados cognitivos. En realidad, para Searle, un programa no da cuenta de la intencionalidad, que sólo un cerebro biológico es capaz de producir. Computadora y ser humano «procesan información» de manera disímil. La distinción mental/no-mental es intrínseca a los sistemas y no puede depender del juicio simple de un observador.
Estas premisas del profesor de la Universidad de California en Berkeley sientan las bases de la noción metafórica actual de los modelos de lenguaje como loros estocásticos (Bender et al, 2021). Esta tesis postula que solo generan secuencias lingüísticas sobre la base de patrones probabilísticos y estadísticos, sin una comprensión o conciencia real del significado emitido. En nuestros tiempos, el connotado filósofo italiano Luciano Floridi se alinea con esta perspectiva y habla de inteligencia cero para referirse a la IA, por la incapacidad aludida anteriormente.
En general, el concepto de conciencia nos conduce a la álgida relación problemática entre mente y cuerpo, que ha recibido distintos intentos de respuesta a lo largo del tiempo, entre la ciencia experimental y la filosofía de la mente. Cualquier aproximación a nuestra problemática debe considerarlos.
La conciencia, desde la neurociencia y la filosofía de la mente.
La neurociencia se ha centrado en los correlatos neuronales de la conciencia (NCC), es decir, las asociaciones entre patrones de actividad cerebral y determinadas experiencias conscientes. No obstante, cabe acotar que, recientemente, la neurociencia corporal introduce una ruptura con el cerebro-exclusivismo de la misma disciplina y de la filosofía, al postular que la mente está distribuida y emerge de la comunicación e interacción de todo el cuerpo. En suma, no la circunscribe al órgano cerebral, incorporado, esta vez, como integrador de información, en su interrelación y diálogo con el corazón, el intestino, la respiración y la postura corporal. La percepción, atención, memoria, estados mentales, emocionales y conductas estarían afectadas por esta comunicación bidireccional con el cerebro.
Desde la psicología podríamos señalar muchas aportaciones pero cabe reivindicar aquí la distinción entre la conciencia primaria, entendida como capacidad de sentir y percibir y la autoconciencia, definida como la capacidad de verso uno mismo como un ser separado e historizado.
En el marco de la física, la controvertida teoría Orch OR (Reducción Objetiva Orquestada) de Penrose y Hameroff vincula a la conciencia con procesos de cálculos cuánticos en los microtúbulos neuronales o estructuras proteicas de las neuronas.
La teoría computacional clásica de la mente, desarrollada inicialmente por Hilary Putnam y Jerry Fodor durante las décadas del sesenta y setenta, compara la mente con una máquina de Turing, que manipula símbolos según instrucciones (reglas) algorítmicas. Según esa metáfora original, dicha manipulación se realiza en función de la sintaxis y como un proceso de información donde algunas señales ingresan como entradas y se traducen en otras señales como salida. Desde la década de los años ochenta, encontramos la corriente conexionista, más relacionada con los enfoques prevalentes en la neurociencia computacional contemporánea. Es el origen de las redes neuronales artificiales del Aprendizaje profundobasado en los modelos de las redes neuronales biológicas. Para bien o para mal, en todos estos casos, el influjo de las metáforas aludidas ha sido bidireccional.
En general, se ha pretendido una ingeniería inversa del cerebro, que en la contemporaneidad cuenta con más recursos teóricos y tecnológicos (simulaciones), y significativos logros tecnológicos, empero, el conocimiento de tan importante órgano vital sigue siendo incompleto y simplificante.
En la filosofía de la mente, los intentos de responder a esta cuestión han provenido de distintas corrientes epistemológicas, metafísicas y ontológicas. Desde la antigüedad clásica, tenemos la impronta de la obra platónica y su dualismo de cuerpo y «alma», retomado por el cristianismo. mutatis mutandi. Por otra parte, ha tenido gran peso el legado de la obra del padre de la filosofía moderna, René Descartes, que nos lleva al dualismo de sustancias, inmaterial y material, a saber: res cogitans (mente) y res extensa (cuerpo). El dualismo comporta numerosos problemas, entre ellos, que es conceptualmente confuso, no es falsable y está relacionado con posturas religiosas. Existen distintos tipos de dualismo, y entre ellos, el interaccionista se revela incapaz de explicar cómo pueden afectarse mutuamente ambas sustancias y cómo una de tipo inmaterial puede impactar causalmente a otra de carácter material (Romero, G.2024). En efecto, el dualismo ha sido rebatido por numerosos experimentos neurocientíficos.
Asimismo, podemos citar otras perspectivas filosóficas sobre la naturaleza de la realidad como el monismo. De hecho, se bifurca, grosso modo, en idealista; en donde la única realidad remite a la mente o la conciencia y el mundo físico deriva en su mera construcción, y en materialista, en donde la realidad es exclusivamente física y la conciencia es epifenoménica, un subproducto de los procesos cerebrales.
Además, la fenomenología se enfoca en la conciencia en tanta experiencia vivida. (Erlebnis) por el sujeto y en su intencionalidad. Un concepto central, propuesto por Edmund Husserl, es la direccionalidad o intencionalidad de la conciencia, es decir, que siempre está “dirigida hacia algo”: un objeto, un pensamiento, un sentimiento.
Una «solución» fácil es la que propone el eliminativismo (sic), que consiste simplemente en sacar a la conciencia del juego, al afirmar que no existe y es indefinible. Según esta visión, sería una mera ilusión del cerebro.
El materialismo ha tenido variadas vías muertas como la Teoría de la Identidad psicofísica formulada por UT Place y JJC Smart en los años cincuenta y que postula que los estados mentales son simples sucesos físicos en el cerebro y el sistema nervioso central. Como contraparte, para el emergentismo la conciencia es una propiedad nueva e irreductible que surge de la organización compleja de la materia pero que no puede ser reducida de manera simple a los niveles físicos inferiores. Esta perspectiva fue fundamental en el legado del biólogo, neurocientífico y filósofo chileno Francisco Varela (1946-2001).
La Teoría de la Información integrada (ITT) es una de las teorías científicas actuales de la conciencia, y como modalidad del emergentismo, plantea que es una propiedad emergente de un sistema físico que integra información de forma compleja. La conciencia no está en un lugar sino en la forma en que las partes interactúan. La Teoría del Espacio de Trabajo Global (GWT) plantea que la conciencia se origina en un espacio de trabajo en el cerebro que integra y difunde información de distintos nódulos cognitivos (percepción, memoria, etc.) para ponerlo a disposición de todo el sistema. Dicho sea de paso, se menciona la Teoría del Esquema Intencional, pero resulta difícil comparar todos estos tipos teóricos porque alude a dimensiones diferentes del fenómeno en cuestión.
Para el filósofo estadounidense Thomas Nagel (2017), el abismo entre lo subjetivo y lo objetivo conlleva a la perentoriedad de una perspectiva no tradicional, postmaterialista y especialmente cercana al panpsiquismo. Según, el emérito de Filosofía y Derecho en la Universidad de Nueva York, el modelo reduccionista, enmarcado en el programa naturalista y derivado del neodarwinismo, es incapaz de ofrecernos una explicación satisfactoria de la conciencia y la vida, entre otras falencias (ibidem). El autor aboga por un monismo universal, con antecedentes presocráticos, que dé cuenta del carácter físico y mental del universo, construido inicialmente por elementos protomentales. En esta visión, los estados mentales no pueden reducirse a meros sucesos físicos porque las conexiones psicofísicas se imbrican bidireccionalmente.
Al referirse a la conciencia, Thomas Nagel no duda en calificar el problema mente-cuerpo como inextricable. En su artículo “¿¿Qué se siente ser murciélago?”, publicado en el año 1974 en la revista Revisión filosóficael autor se embiste radicalmente en contra del fisicalismo. El mismo principio de objetividad y su método, que prescribe el abandono de cualquier punto de vista singular y concreto -en primera persona-, expulsa de facto a la subjetividad e impide el acceso a una explicación. de las características fenomenológicas de cada ser.
Para el filósofo australiano David Chalmers (Star Talk,WSF: 2024), la ciencia ha abordado los problemas funcionales y relativamente fáciles de la conciencia pero se encuentra con las manos atadas ante el «problema difícil», que implica un hiato radical entre el mundo objetivo y el mundo subjetivo, de manera que el conocimiento exhaustivo del primero no garantiza el conocimiento del segundo. Es ese «cómo se siente ser» de Nagel. La conciencia está definida como la experiencia subjetiva o película interior de la mente, que tiene imágenes y sonidos similares a una película, pero que además posee las sensaciones corporales: olor, sabor, emociones y pensamientos. El ideal de este autor sería encontrar las leyes matemáticas que la rigen y de una modalidad tan simple, «que puedan inscribirse en una camiseta».
El profesor oceánico arremete también en contra del reduccionismo fisicalista, que no puede dar cuenta de por qué los procesos físicos que describen producen la experiencia subjetiva correlacionada. En realidad, la explicación de la experiencia subjetiva o cualia permanece como un problema crucial que amerita una perspectiva novedosa.
Para el filósofo sidneyés no tenemos una buena teoría de la conciencia. Sin embargo, esta conjetura académica que podrían existir leyes fundamentales que la explican y, en esa dirección, considera el dualismo de propiedades o monismo de doble aspecto. La conciencia y la materia serían dos aspectos de una misma realidad fundamental. A pesar de que reconoce el carácter especulativo del pansiquismono lo desdeña y plantea considerarlo con seriedad.
Según Chalmers, los modelos de lenguaje actuales no son conscientes, lo que ocurre es que suele confundirse inteligencia y conciencia. No obstante, el autor considera que podríamos tenerlos en menos de una década.
En el presente ensayo analizaremos tres visiones más o menos disímiles sobre la problemática que nos convoca en este artículo. Desde una perspectiva tecnoptimista, Ray Kurzweil soslaya de manera simple el problema de la conciencia. Nick Bostrom, que pasa del alarmismo apocalíptico al tecnoptimismo, en apenas una década, considera que pueden llegar a ser conscientes y sintientes, mientras Erick Larson niega esa posibilidad, desde una argumentación crítica.
Kurzweil es un neoyorkino transhumanista y un experto destacado en sistemas tecnológicos y de IA. Desde 2012 es director de Ingeniería y asesor de Google. su empresa, Tecnologías Kurzweilse dedica a elaborar dispositivos electrónicos de conversación máquina-humano y aplicaciones para personas con discapacidad. Por lo demás, impulsa la Universidad de la Singularidad de Silicon Valley. Con una base pragmática indudable, cabe escuchar su voz, entre tantas otras, con otros cimientos.
La singularidad de Raymond Kurzweil
Aunque a diferencia de su maestro Marvin Minsky, Kurzweil admite, por una parte, que el problema de la conciencia no es baladí, por otra parte, lo elude ramplonamente por supuestamente «acientífico» y perteneciente a la esfera de las «creencias subjetivas», y en su visión simplista: «filosófica».
Ray plantea que la IA no es más que una emulación del cerebro biológico, pero su discurso refleja lo inverso. El núcleo del sistema nervioso central, como toda la realidad y todo lo que acontece en el universo, son definidos como simple computación. El proceso de información se desarrolla a través de seis etapas evolutivas de creciente complejidad en la capacidad de procesamiento de la información y el cerebro ocupa el número tres. Por cierto, en su discurso, la inteligencia cerebral se reduce a su dimensión lógica y de cálculo.
En la actualidad, Ray Kurzweil mantiene las predicciones y estimaciones de su libro del 2005, La singularidad está cercasobre el logro de la inteligencia a nivel humano para 2029 y de la singularidad para 2045, es decir, nuestra eventual fusión con las computadoras y consecuente conversión en «superhumanos». Por cierto, la presentación de este libro en los medios de comunicación catapultó la popularización de esta categoría de la singularidad, proceso que se había iniciado con el artículo fundacional de Vernor Vinge, en la revista Omni en el año 1983. Recientemente, en el año 2024, el sello editorial Vintage publicó La singularidad está más cercana, secuela del libro pionero de este mismo autor.
La singularidad, como punto culminante de la ciborgización, será una combinación de la inteligencia natural y la inteligencia cibernética, gracias al desarrollo previo de las interfaces cerebro-computadora, y los nanobots., que Accederán de manera no invasiva a nuestros cerebros. De esta manera surgirán novedosas formas de comunicación. El cerebro humano se expandirá con capas de neuronas virtuales alojadas en «servidores en la nube» y ante las preguntas, las respuestas serán instantáneas.
Dentro de un enfoque transhumanista, se postulan «mejoras» que posibilitan la superación de las «limitaciones» de nuestra biología corporal y el deber moral de desarrollar el soporte no biológico que asegurará la singularidad.
Para este autor, las IA superiores surgirán en el horizonte próximo tras el crecimiento exponencial de la tecnología que responde a la Ley de rendimientos acelerados, y, con seguridad, satisfarán de manera instrumental nuestras necesidades y deseos. El crecimiento de la tecnología no es lineal sino exponencial y cada avance tecnológico se basa en un salto sobre el anterior, acelerando cada vez un progreso indetenible.
Según el asesor de Google, a finales de esta década, todos podremos crear replicantes de nosotros mismos y debido a la posesión de más datos, la representación de nuestras personalidades será más fiel. Así pues, se logrará una suerte de inmortalidad electrónica, reviviendo de modo digital a los humanos fallecidos, lo cual no estará exento de problemas sociales y legales.
En la década de los años treinta podremos conectar nuestro neocórtex a las computadoras. Existen ya varios intentos pero no se cuenta con el ancho de banda debido.
En la década de los cuarenta, nuestras mentes se podrán implantar en androides convincentes, antes de nuestras muertes biológicas. Una vez lograda la singularidad, algunas conexiones de IA en nuestro cerebro (incorpóreo) se conectarán a la nube con un respaldo completo.
A pesar de que nos es difícil identificarnos con su discurso panglosiano y apologético, cabe reconocer que algunas de sus predicciones se han cumplido, cuentos como la eclosión actual de la IA que algunos estimaban en un siglo.
A continuación, expondremos las ideas centrales del filósofo sueco Nick Bostrom, quien llegó a una posición similar en apenas diez años, luego de un discurso mucho menos esperanzador.
La supreinteligencia: de juguete bomba a elixir digital.
Hace una década, Nick Bostrom empleaba la metáfora del juguete bomba para decirnos que no estábamos preparados para el momento del estallido de la IA e ignoramos exactamente cuándo se activaría el detonador. En ese tictac, las consecuencias serían potencialmente catastróficas e implicarían un riesgo existencial. Para este autor, en esa dirección descontrolada, sin la alineación debida con los valores humanos, la superinteligencia podría socavar nuestra posición de dominio en el planeta, reemplazarnos y guiar nuestro destino. Entonces, su libro intitulado Superinteligencia: caminos, peligros, estrategias (2016) planteaba el reto que implicaba el eventual control y diseño de la superinteligencia, en función de proteger nuestros valores. En esa línea, era fundamental la búsqueda de soluciones ex ante dentro de una visión estratégica que prime el control y la seguridad.
Ahora bien, después de haber transcurrido un poco más de una década, desde que formuló su idea apocalíptica del peligro existencial –impulsando el tema en la agenda pública internacional e inspirando a ciertos líderes tecnológicos-, Bostrom ha dado un vuelco radical hacia el tecnoutopismo. De esta manera, sus planteamientos se han alejado radicalmente de su texto de referencia inicial, aunque aún admite, como en otrara, cierta incertidumbre.
Aunque este autor todavía admite que sigue existiendo el gigantesco riesgo señalado, enfatiza en los beneficios potenciales y considera que ahora la catástrofe no sería desarrollar la superinteligencia. En su libro más reciente, intitulado Utopía profunda: vida y significado en un mundo resuelto. (Editorial Ideapress, 2024), se centra en un planeta postinstrumental y postrabajo, donde los problemas han sido remediados y la mayoría de los impactos son considerados positivos, entre ellos, los relacionados con la salud, la economía y la prolongación inusitada de la vida.
Un aspecto que se considera crucial para la gobernanza de la IA es que, desde hace un brillo, los laboratorios de IA generativa tienen grupos de investigación que desarrollan métodos de alineación escables, es decir, instrumentos ad hoc para el control y orientación de dichos sistemas hacia los objetivos, preferencias o principios éticos de los seres humanos.
Para Bostrom, un criterio mínimo de equidad es indispensable. Si compartimos los riesgos, debemos, en alguna medida, compartir los beneficios. De hecho, plantea la vigencia del utilitarismo y el consecuencialismo para reducir el riesgo existencial. Y a pesar del peso prevalente de ambas visiones en su discurso, no se autodefine como utilitarista o consecuencialista, sino pluralista.
En el texto primero, en lo que se refiere al panorama estratégico y la política científica y tecnológica a largo plazo, se recomienda abundantemente la colaboración y la evitación de la dinámica de carrera, que podría conducir incluso al enfrentamiento bélico.
Según el autor helsingborgense, A pesar de las incertidumbres, la existencia de muchos caminos que nos dirigen a la superinteligencia debería aumentar nuestra confianza en su viabilidad efectiva. Entre las múltiples sendas posibles, concede mayor probabilidad a la ruta de la IA con diseños principalmente sintéticos, sobre un sustrato meramente artificial. A corto plazo, el filósofo europeo desestimaba la ruta de la ciborgización, es decir, disiente, de este modo, de Kurzweil. Para este autor, es más probable que las IA sean muy distintas a la mente humana y con arquitecturas disímiles.
En un contexto en donde coexistiremos con mentes digitales, el autor aboga por considerar a las máquinas como pacientes morales, independientemente de la alta probabilidad de que lleguen a ser muy conscientes y sensibles y tengan la capacidad de sufrir. Si tenemos un sistema que es capaz de seguir objetivos a largo plazo y posee una concepción de sí mismo como existente a través del tiempo, capaz de razonar y formar relaciones recíprocas con los seres humanos, ello ya merece, loablemente, alguna consideración moral.
A contracorriente del discurso difusor anterior, para el experto informático estadounidense Erik J. Larson, ni estamos cerca, ni estamos en el camino hacia la superinteligencia. Para él, en las décadas de los años cincuenta y sesenta del siglo pasado, Alain Turing y Jack Good, con sus máquinas sultrainteligentes, esbozaron «el mito de la inteligencia artificial», y, posteriormente, le continuaron en su conformación Ray Kurzweil y Nick Bostrom.
¿Mitología de la IA?
Según Erik Larson (2022), la idea de que la irrupción de la IA general a nivel humano es inevitable y que a posteriori le daría paso a una súper inteligencia que nos rebasaría, desdibujando las diferencias entre la IA y la inteligencia humana, es un mito. De esta forma, se estaría transformando lo que es un enigma científico en un evento inexorable. No se trata de su imposibilidad, sino de su improbabilidad, dada la línea de desarrollo tecnológico en curso. El autor habla de una brecha vergonzosa, entre los logros tecnológicos reales y las visiones futuristas.
Para este emprendedor tecnológico ico, la IA estrecha o débil, en desarrollo en la actualidad, no nos conduce en línea directa a una IA general. Los sistemas de IA de vanguardia comercializados son inductivos o, de modo secundario, híbridos, es decir, son también, en estos últimos casos, deductivos, y heredan, por tanto, los límites de ambos tipos de inferencia (i). En general, los enfoques actuales de IA se basan en técnicas para el análisis de macrodatos sin llegar a una comprensión real.
Para este filósofo, la mitología referida se basa en creencias o en intereses crematísticos y, tal vez, habría que admitir que nos sobrepasamos en la meta y la diferencia entre las mentes humanas y las máquinas es fundamental y no podemos identificarlas, y las primeras son un hecho de la naturaleza y de la vida (Macosko, 2021,2023).
Erik Larson plantea que las inferencias relacionadas con la IA general no se pueden programar a partir de nuestro conocimiento actual, ni del enfoque y métodos de la IA débil. Claro está, a menos que se produzca una reconceptualización radical de lo que significa la IA. De momento, los sistemas de aprendizaje automático se centran en un problema de aprendizaje específico y particular.
La IA clásica exploró las deducciones hasta bien entrada la década de los años noventa. Posteriormente, con la explosión de la red, el big data y los métodos estadísticos, la IA adquirió el paradigma inductivo, con todas sus posibilidades y límites. Desde entonces, se ha trabajado en la optimización de los métodos de aprendizaje que trabajaban con macrodatos.
En la línea del legado de Charles Peirce, el autor plantea que más allá de las deducciones e inducciones, tanto la inteligencia actual como la científica se valen de conjeturas, abducciones o suposiciones. La abducción, en tanta inferencia revisable, nos permite desenvolvernos en el mundo real y comprender el lenguaje natural. Aunque las diversas lógicas encajan entre sí y cumplen papeles relevantes, en la inteligencia, la abducción ocupa un lugar central. Las inferencias conjeturales es lo que nos convertiría en humanos. Las inferencias de sentido común a menudo no responden a lógicas clásicas ni resultan demasiado probables.
Erik Larson explícita las limitaciones de la neurociencia actual y de las teorías de la inteligencia inspiradas en el neocórtex, que califican de superficiales e inútiles. Como ejemplos llamativos, se mencionan la teoría basada en el reconocimiento de patrones jerárquicos (Kurzweil) y la teoría de las piezas de lego (Markram). Los proyectos de investigación del cerebro de datos son más ingenieriles que neurocientíficos y pretenden cimentarse sobre el big data y esconder así dichas falencias. Este autor critica la visión tecnocientífica y los denominados «enfoques deflacionarios de la inteligencia» como una forma de computación, porque la mente humana no puede reducirse a un simple proceso de información y la inteligencia, a una serie de cálculos.
En realidad, la IA datocéntrica e inductiva presenta problemas cuando surgen elementos improbables. Las respuestas erróneas que nos hablan de un «sabio idiota» exigen un enfoque nuevo y no, precisamente, de más datos. La automatización se enfrenta con el gran escollo de la pragmática, es decir, el individuo realiza sus afirmaciones de acuerdo con propósitos e intereses que implican la comprensión del contexto.
La inteligencia artificial se ubica en el peldaño de la asociación, relacionada con una hipótesis desafortunada de frecuencia y, por tanto, está en un nivel inferior del establecimiento de relaciones causales. Este método adolescente de la restricción empíricaes decir, solo puede operar con los datos procesados durante el entrenamiento. Además, existe el problema de la saturación inevitable, un punto en donde más acumulación de datos deja de incrementar el rendimiento. En ausencia de profundidad de conocimiento y contexto, los mejores sistemas de aprendizaje profundo no comprenden lo que perciben y son fácilmente engañables.
El conocimiento computacional es un pozo sin fondo porque rellenar una base de datos con afirmaciones o proposiciones es una tarea interminable. Las excepciones no se pueden predecir por completo, por tanto, la estrategia de exponer los sistemas de IA a irregularidades probables puede tornarse infinitamente. La realidad está plagada de anormalidades, tal como demuestra la caología.
Cierre y apertura
La línea argumental de Larson es impecablemente sólida y su aportación es invaluable, pero cabe acotar que la condición condición sine qua non que establece para un eventual salto a la IA fuerte ya la superinteligencia no constituye una rareza factual. Los cambios paradigmáticos en la ciencia y la tecnología han sido moneda corriente.
De momento, la IA está sustituyendo la lógica explicativa por una lógica de evaluación, cimentada en predicciones y en el reconocimiento y reproducción de patrones. Empero, nada impide que dichas lógicas lleguen a entrecruzarse de manera heurística y productiva, y que ya lo estén haciendo en la investigación científica y humanística.
La superinteligencia se ha relacionado con el problema de una autonomización virtual de la dimensión tecnoeconómica, abordado seriamente por filósofos de la tecnología, como Jacques Ellul y Landong Winner. En el enfoque de este último, alude al proceso de adaptación inversa, cuando los finos humanos se acoplan a los medios tecnológicos. Es un proceso problemático en marcha que debería ser asumido sin ambages.
No obstante, el tema ineludible es el de las perentorias políticas de cara al impacto presente de la IA y de su influjo a corto y mediano plazo, sobre la base de una prospectiva con enfoque científico, que estudia de una vez la multidimensionalidad de los fenómenos y se aleje de la futurología especulativa.
Como fundación de la nueva gobernanza, debe propiciarse una evaluación democrática y transdisciplinaria de la IA, sostenida en una ética plural, en el marco de la defensa de los derechos humanos y las libertades individuales.
De momento, se constatan y avizoran enormes beneficios y riesgos significativos de manera simultánea. Así, pues, la idea es trascender cualquier postura sesgadamente apocalíptica o apologética y rescatar la vieja propuesta de una evaluación específica de las innovaciones, rescatando lo mejor de los estudios sociológicos clásicos de Ciencia, Tecnología y Sociedad.
En la tradición orteguiana, la técnica, como segunda naturaleza del homo sapiens, es tan importante como la primera. En términos mcluhanianos, la tecnología no debería ser considerada como una entidad separada sino como una extensión del ser humano. La IA nos convoca a repensar las nociones cognitivas tradicionales de pensamiento, inteligencia, interpretación, comprensión y conocimiento, entre otras. Con los nuevos conocimientos neurobiológicos y su uso en las redes sociales, cabría revisar también las categorías de autonomía, moral y libertad. Por no hablar de la propia ontología humana, en constante re-hibridación de naturaleza y sobrenaturaleza.
En cuanto a la categoría de inteligencia, el antropocentrismo ha tenido una deriva limitante y sesgada si revisamos los hallazgos contemporáneos de la etología y la botánica, que han impulsado la amplificación de la mirada. Es apenas hace algunos lustros, que en Occidente se comienza a admitir niveles de conciencia en los mamíferos, aves y, minoritariamente, en algunos invertebrados. En Oriente, considerar y generalizar los diversos niveles de conciencia es un asunto milenario. En nuestro contexto, la influencia cultural humano céntrica sobre la ciencia ha sido tan fuerte, que eludió lo que cualquier persona que convive cotidianamente con animales no humanos puede intuir de manera clara.
No obstante, ese mismo antropocentrismo ha tenido un efecto ambivalente en el campo de la IA. Por una parte, desde su acuñación, hace siete décadas, la noción de IA, y sobre todo, las búsquedas tecnológicas concomitantes han catapultado el desarrollo de esa extensión innovadora, sobre la base de ese efecto de espejo. Por otra parte, quizás se ha constituido en una cortapisa para comprender las diferencias cualitativas de una inteligencia renovada, cuando actúa como proyección simple de nuestra inteligencia psicobiológica. ¿Por qué la IA tendría que ser homologable a la humanamente biológica y no constituir una tipología aparte, como tantas otras, presentes en la naturaleza? Tal vez, la denominada singularidad no marca solamente el momento disruptivo de una superación, sino la consolidación definitiva de un subtipo novedoso de inteligencia.
El análisis de la tecnología en general y de la IA en particular no puede reducirse a un problema de uso. Sin embargo, en este caso, esa noción readquiere particular relevancia, porque por una parte, el uso podría limitarnos por el adormecimiento de ciertas funciones cognitivas o, por el contrario, podría repotenciarnos y fungir como una maravillosa amplificación. Caben aquí estudios neurocientíficos de largo alcance que arrojan evidencias en cualquier dirección.
En todo caso, no sería de extrañar que la multivalencia de los sistemas sociotécnicos de carácter digital se manifieste nuevamente.
Referencias
Bostrom, Nick (2016). Superinteligencia caminos, peligros, estrategias. Madrid: TEELL. Título original: SUPERINTELIGENCIA, Caminos, Peligros, Estrategias Nick Bostrom, 2014. Traducción: Marcos Alonso, 2016/Titivillus 16.05.2023. https://info-biblioteca.mincyt.gob.ve/wp-content/uploads/2024/10/Superinteligencia-Nick-Bostrom.pdf
Bender, E.; Gebru, T.; McMillan-Major y Scmitchell (2021) “Sobre los peligros de los loros estocásticos: ¿pueden los modelos lingüísticos ser demasiado grandes?” FAccT ’21: Actas de la Conferencia ACM de 2021 sobre equidad, responsabilidad y transparencia. https://dl.acm.org/doi/pdf/10.1145/3442188.3445922
Fontevecchia, J. (01.12.25). IA y Transhumanismo, un futuro sin necesidad de trabajar – Entrevista a Nick Bostrom por Fontevecchia. Periodismo Puro. https://www.youtube.com/watch?v=L7LvH-PhNU8
Fridman Poscast No 321 (17.09.2022). Ray Kurzweil: Singularidad, Superinteligencia e Inmortalidad. ttps://youtu.be/ykY69lSpDdo?si=oNINcAHf3-ZG_n-v
Harnad, Stevan (2008), «The Annotation Game: On Turing (1950) on Computing, Machinery and Intelligence», en Epstein, Robert; Peters, Gracia, eds., El libro de consulta del test de Turing: cuestiones filosóficas y metodológicas en la búsqueda de la computadora pensanteKluwer. https://web.archive.org/web/20120515155748/http://eprints.soton.ac.uk/262954/1/turing.html
Caballero, Will (05/04/24). Nick Bostrom hizo al mundo temer por la IA. Ahora pregunta: ¿Y si es la solución a todos nuestros problemas? CulturaDigital. Cableado. https://es.wired.com/articulos/nick-bostrom-hizo-al-mundo-temer-por-la-ia-ahora-pregunta-y-si-es-la-solucion-a-todos-nuestros-problemas
Kurzweil, R. (2005). La singularidad está cerca. Cuando los humanos trascienden la biología. Vikingo. Penguin Group Inc. https://paisdospuntocero.files.wordpress.com/2018/04/book-kurzweil-singularity-is-near-1.pdf
Kurzweil, Ray (2020).Cómo crear una mente. El secreto del pensamiento humano. Editor digital: Titivillus 26.04.2020. publicación electrónica. Título original: Cómo crear una mente: el secreto del pensamiento humano revelado Ray Kurzweil, 2012. https://mixpromocionales.com/descargas/Libros/Como%20crear%20una%20mente%20-%20Ray%20Kurzweil.pdf
Larson, Erik (2022). El mito de la inteligencia artificial. Por qué las máquinas no pueden pensar como nosotros lo hacemos. Shackleton Books, SL https://archive.org/details/el-mito-de-la-inteligencia-artificial-por-que-las-maquinas-no-pueden-pensar-como-nosotros-lo-hacemos/page/n159/mode/2up?view=theater
Levy, Steven (13.06.2024).Si Ray Kurzweil tiene razón (otra vez), conocerás su alma
Macosko, Jed (15.04.21). Erik Larson sobre lo que depara el futuro para la inteligencia artificial. Influencia académica. https://www.youtube.com/watch?v=rJmBGkM5SbM
Macosko, Jed (28.07.2023). Lo que depara el futuro para la inteligencia artificial. Entrevista con Erik Larson. Influencia académica.https://academicinfluence.com/interviews/computer-scienc e/erik-larson
Nagel, Thomas (2000) “¿Qué se siente ser murciélago?”. Ensayos sobre la vida humanaMéxico: Fondo de Cultura Económica, págs. 274-296. https://www.icesi.edu.co/blogs/experimentosmentales/files/2010/03/Qu%25C3%25A9-se-siente-ser-un-murcielago-Nagel.pdf
Nagel, Thomas (2017). La mente y el cosmos. Por qué la concepción neo-darwinista materialista de la naturaleza es, casi con certeza, falsa. Titivilo. https://archive.org/details/thomas-nagel-la-mente-y-el cosmos/page/n121/mode/2up?view=theater.
Charla de estrellas (11.02.2024). ¿Qué es la conciencia? “David Chalmer analiza el difícil problema de la conciencia”. https://youtu.be/Pr-Hf7MNQV0?si=cnBtLTfl_0yJRSqU
Searle, John R. (1980). “Mentes, cerebros y programas”. https://eva.fhce.udelar.edu.uy/pluginfile.php/228801/mod_resource/content/1/36299900-Mentes-cerebros-y-programas-John-R-Searle.pdf
Turing, A. (1950). “Maquinaria de Computación e Inteligencia”. Mente 49: 433-460. https://courses.cs.umbc.edu/471/papers/turing.pdf
Wes y Dylan, (22.08.25). Nick Bostrom. Superinteligencia, Utopía Profunda, Propósito Humano y Comprensión de la Conciencia. https://www.youtube.com/watch?v=8dmh0FJkneA
Festival Mundial de la Ciencia (19.07.2024). ¿Qué crea la conciencia? David Chalmers, Anil Seth y Brian Greene. https://www.youtube.com/watch?v=06-iq-0yJNM
i Si bien, la ciencia es inconcebible sin la inducción como método de conocimiento a través de la experiencia, este método no deja de comportar límites considerables, señalados de manera pionera por David Hume. Nuestras observaciones nunca son completas y las correlaciones identificadas pueden ser falsas o accidentales. Por otra parte, observaciones futuras pueden revelar lo que se ocultaba ante nosotros. La realidad cambia permanentemente de manera predecible y, a veces, impredecible, escapándose de ciertos sistemas de reglas.