Recentemente gli amici di Samgha hanno pubblicato un interessante articolo sul lavoro di Ray Kurzweil e sulla sua idea che la singolarità oltre la quale l'intelligenza artificiale eguaglierà e supererà quella umana è vicina. Dopo "The Age of Spiritual Machines", il futurologo Kurzweil torna sul tema, forte di una massicia documentazione sulla crescita esponenziale delle tecnologie. L'idea è che se le interfacce uomo-macchina hanno avuto uno sviluppo impetuoso diventando sempre più raffinate, allora ci sarà un momento di "transizione di fase" in cui la complicazione si trasformerà in autentica complessità.Quello di Kurzweil è un discorso "muscolare", basato sull'estrapolazione di tecnologie ancora in fase embrionale- il vizio di sempre dell'IA!- e su un'idea di progresso ancora molto diffusa. Vale dunque la pena considerare più da vicino le sue tesi. 
Al di là della ben nota considerazione che "è difficile fare previsioni, specialmente sul futuro" ( Niels Bohr), la suggestione di Kurzweil implica la realizzazione di alcune condizioni ed ipotesi tutt'altro che ovvie. Quella fondamentale è che la tecnologia possa modellare completamente il sistema nervoso umano. In realtà le nano-biotecnologie, che lavorano sull'ordine dei nanometri, sono ben lontane da queste possibilità: una cosa è ibridare un semiconduttore con un "quantum dot", un'altra modellare strutture naturali estremamente "intrecciate". La fisica quantistica impone limiti severi che equivalgono ad accorgersi di avere mani troppo grandi per manipolare le viti sottili che ci interessano. Non dimentichiamo che ciò che cerchiamo di riprodurre in laboratorio è frutto di un'evoluzione lunghissima, bisogna dunque estendere l'ipotesi di partenza anche alla simulazione di quel bagaglio genetico che orienta la "costruzione" dell'essere umano.Inoltre, i materiali per realizzare il progetto genetico sono presi dal mondo esterno, e dev'esserci perciò una piena compatibilità tra la struttura fisica del sistema e l'ambiente che lo circonda, cosa che in natura si realizza tramite complessi processi di auto-organizzazione che culminano in quell'equilibrio dinamico che è il metabolismo.Ecco che siamo passati dalla proposizione iniziale, la completa simulazione del sistema nervoso, ad un progetto assai più ampio che coinvolge la mente ed il mondo ed implica la realizzazione di un intero organismo artificiale in grado di vivere nel nostro ambiente.A questo punto diventa piuttosto problematico definire cosa vuol dire "comparare" le prestazioni umane con quelle artificiali. Ad esempio è legittimo chiedersi se una struttura di questo tipo realizza il task assegnato per una via simile alla nostra o radicalmente diversa. Un esempio ben noto è il gioco degli scacchi.
Ormai da parecchi anni le varie versioni di Deep Blue battono regolarmente in partite singole e persino in interi match i grandi maestri, ma lo fanno con una completa assenza di quello che chiamiamo "stile".Infatti il giocatore umano tende a suggerire all'avversario un modello cognitivo per indurlo in errore. Le più recenti battaglie tra Karpov e Kasparov sono state singolari esperienze di crossing mimetico: Karpov giocava con l'aggressività tattica di Kasparov e quest'ultimo adottava invece una strategia posizionale simile a quella del suo storico nemico, ognuno giocava contro l'altro utilizzando il "modello" dell'avversario!
Kurzweil e la sua IA futurista fa insomma lo stesso passo falso di certe tendenze delle attuali neuroscienze, e lo fa per motivi che stanno al confine sottile tra l'idealismo scientifico, lo spettacolo tecnologico e la promozione commerciale: identifica i "meccanismi" del pensiero con il loro grado esteriore di complessità architettonica, concludendo che a parità di "ingranaggi" seguono funzioni e prestazioni simili.Mentre la prima condizione è ragionevolmente necessaria, la sua conseguenza non è affatto scontata perchè bisognerebbe dimostrare che l'organismo artificiale è un grado di avere non soltanto processi cognitivi simili ai nostri nelle prestazioni (ps: più o meno, è questo il famoso Test di Turing, una valutazione "operativa" di " "intelligenza"), ma anche di poter produrre un mondo interiore come risposta autonoma agli input esterni, quegli stati di radicale soggettività (coscienza, qualia) da cui dipende ad esempio la creatività e che rendono unico ogni essere umano.E per questo non basta un criterio di brute force come quello di Kurzweil, basato sulla quantità di bit elaborati,ma bisogna piuttosto indagare le connessioni profonde tra diversi modelli di fisica e di computazione per comprendere se possono supportare qualcosa di simile ad una "coscienza". Un esempio di questo tipo è il modello del Quantum Brain, in cui una sintassi derivata dalla teoria quantistica dei campi viene utilizzata per descrivere una super-rete neurale in grado di dar luogo anche ad una coscienza dall' accoppiamento mente-mondo. E' evidente che siamo già molto lontani dall'impostazione neo-meccanicista di Ray Kurzweil.
Un modo più raffinato di affrontare questi problemi anima ad esempio la rivista diretta da Antonio Chella dell'Università di Palermo, l'International Journal of Machine Consciousness , dove però la risposta passa attraverso un radicale ripensamento non soltanto di cos'è la coscienza ma sopratutto di cosa intendiamo per "macchina", ricordando che con questo termine non si indica un insieme di ingranaggi, ma ci si riferisce piuttosto ad un modello di mondo fisico e di informazione di cui la macchina è soltanto l'implementazione ultima.
