lvlENTES, CFI{EBROS Y I'R()(tR\trtAS

s:

III. MENTES, CEREBROS Y PROGRAMAS*

JOHN R, SEARLE

a los esfuerzos .OUIMpSRTANCIApsicolgica y filosfica debemos dar rccientes que se han realizado para que las complttadoras simulen las habilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta, nre parece til diferenciar entre lo que llamar Ia (inteligencia artificial) "f uerte" e IA "dbil" o "cautelosa". Segrn la ra dbil, el principal valor que tiene la computadora en el estudio de la mente es qlle nos proporciona una hcrramienta muy poderosa que nos permite, por ejemplo, formular y com"fuerte", pr:clbarhiptesis de modo ms riguroso 1' preciso. Empero, en la Ia la computadora no es tan slo ua herramienta para estlldiar la mente; rursbien, la computadora programada adectradamente es t'ealmente una nrente en el sentido de que puede decirse literalmente que las computadoras Llu e CUen fan con pr ggr am aS c or r ec ( oS c ot t t pr e t t d e t t y p o s e e n o t t o s e s t a d O s cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta c6n estados cognoscitivos, los programas no Son meras herramientas que nos permiten probar las explicaciones psicolgicas, sino que los programas constituyen por s mismos las explicaciones No tengo ninguna obiecin a lo que se dice acerca de la IA dbil, al menos er-rlo que concierne a este artculo. Mi exposicin aqu I'ersar en tor-no a las afirmaciones que he hecho acerca de la tn fuerte, especficamente en t()rno a la afirmacin cle que la computadora programada adecuadamente tiene literalmente estados cognitivos que, en consecuencia, los programas -v explican la cognicin humana. A partir de ahora, cuando me refiera a Ia tA ienclr en mnte la versin Fuerte, tal cual queda expresada por estas dos aseveraciones. considerar la obra de Roger Schank y sus colegas en Yale (Schank y Abelson, 1977), porque me encuentro ms familiarizado con ella que con ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo ntuy clro clel tipo de trabajo que deseo examinar. Pero nada de lo que a continuacin se presenta depende de los detalles de los programas de Sch an k, pu es lo s m is m os ar gum ent os s e p o d r a n a p l i c a r a l S H R D L U de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum, * JolrnR. Searle, and Braitt scietrces, "Minds,Brains,and Programs", TlrcBehavioral con pemiso de Press Reproducido Unersity O 198,Cambridge 3, 1980,pp.417-424. y del autor. UniversityPress Cambridge

1 9 - 5 )r 'c l e h e c h o a ctr a l q u i e r - si m tr l a ci r i n e . r r r q tr i n a cl e Tr r r .i .s cl e fe n m e n o s m e n t a l e s h t r ln a n o s. N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i .s cl e ta i l e s, e l p r .o g r .:r .r a d e Schank ptrede describirse de la sigr-riente nraner.r: el p'.prisito clel ir,,g.rma consiste en simular la capacidad hunrara para c().rpr-e.der. relat.s. una c a r a c t e r s t i c a d e l a ca p a ci cl a d d e l o s se r .e s h r r n r a .o s p a r .i c.m p r e n cl e r relatos es que stos pueden responcle. pregrntas acel.ca clc-lr-elaro, atrn cuando la informacin qr-rep.opor-cionen nrrnca se hava establccicilr exolc i t a m e n l e e n e l r e l a to . As p u e s. p o r .e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a l a s _ guiente historia: "un honrbre entr a un restllr.antc or.clerr r, trn:r halnb u r g u e s a . c u a n d o se l a si n 'i e r o n , e sta b a tr ta l r r e .te q r r e .r l r cl a , a s < 'e e r hombre estall en clera v abanclon el restarrr.ante firr.irso, ,ir, rngu. ra hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s" co'ri e l h o m b r e l a h a m b u rg u e sa ? ", u ste d p r o b a b r e .r e .tJr e sp o r - r cl e ,r : ..N o , no se la comi." De igual maner-a, si ustec,lescrrchr lo sigtrie.te: "[Jn hor'bre e n t r a u n r e s t a u . a n r e 'o l d e n t l r r l l .r b r l q r r e sr . cr a ..l ,, st'l l r si r .,,.i e l .o n , le agrad mucho. Al sali. del r-estau.ante, le Jc.i a la nlescr.r ge'erosa 'ra propina antes de pagar la ctrenta." Si se le pr'r.gu11ta: "Se co'riti lro,.br-e "f la-hambtrrguesa?", usted probablen-rente .esponcrera: "S, se la crmi.,, Ahora bjen, las mquinas de schank ptreclenre.s,orr.ier p,.eguntas sirilar-es acerca de restaurantes formuladas en estos tr.nrinos.par.a lirce.rlc), cLlentan con una "representacin" clel tipo de inltornracin qlre poseen l.s seres humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'ntas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo se pr-()p o r c i o n a e l r e l a t o a l a m q r - r i n a 'se l e h a ce l a p r - e g 'n tr , i r r r p r .i n r i r .r r - e spuestas del tip. de las qr-reesperaramos qr-reclier:rrilos se'es hrrrr'tnos al escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nrrn(ilre en e s t a s e c u e n c i a d e p r eg r - r n ta sv r e sp L l e sta sl rm q u i n a n o s l o si n r tr l a una h a b i l i d a c l h u m a n a , s i n o q u e ta m b i n : 1 ) p u e d e d e c i r s e l i te r a l m e n te q u e l a n r q r ri n a cctr r tp r e r tr l ce l r e l a t. y p r o p o r c i o n a r e s p u e s t a s a l a s p r .e g r r n ta s, r 2) lo que la mquina y su programa hacen es ex\tlic.r la caprciclacl hum a n a d e c o m p r e n d e r e l r e l a to r . r e sp o n d e r . p ."g ,,n i u , r ..",.cai e e l . A m me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un sostn total en el trabajo de Schank,' como intentar clemostr.ar a continuacin. una manera de probar cualquier teora cle la n-re.te estriba en preg'ntarse a uno mismo qu suceder'a si nri mente realrnente ftrncionara sobre los principios con que Ia teora dice que funci.nan toclas las n-rentes.Apliquemos esta prueba al programa de Schank con el sigrrie nre GerlanketrcxI No pretendo decir,claroest,que el propioSchankse encuentre cornprometiclo co estas afirmaciones.

S,1

I',IENTES, CEREBROS Y PROGRAITIAS

lvfENI-ES, CEI?LBIiOS Y pROGR;\IIAS

en una habitacin v que se me pcrimerlt.Supongamosque estoy encerrad,o en chino Supongamos adepropo..io.ru'un f-ajogrande de textos escr"itos d" h " i h o e l c a s o ) q u e n o s c h i no' ni escri to ni habl ado' rn a, ( . o- o china ", y qr-reni siquiera tengo la certeza de.poder reconocer la escritura japonesa de una o escritura la de como tal, distinguinola, por ejempl, slo chi'a escritura la m, Para alguno. sel.iede garabatossin signiiicadt que despus es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos que contiene otro " .".ibi. est" ;o de textos en chino, se me proporciona Las primero el con fa'io una serie de reglas para relacionar el sepgndo hablante otro cualquier como bien tan estn en inglei v las entiendo r.eglas un conjuncleesta lengua. Me permiten estableceruna correlacin entre "fonnal" con for-males. de smbolos conjunto y otro formales to de srnbolos completamente identificar los smbolos slo quiero decir aqu qrr" p,,,e.lo faio po. ,tu formas. S.tpo.rgu*.rs tambin ahora que recibo un tercer ingls, en otra instr'cciones, cle smbolos chinos i.rrio .or algunas 'ez los dos qlle me per-rnitencorrelacionar elementosde este tercer faio con con responder cmo de acerca instmven me primeros, v que estasreglas que me forrna de lipos a ciertos forma cierta de chinos .i",ro, smblos que lireron proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas "relato" primerfajo, nre diern todos estossmbolosllaman "manuscrito" al "l'espLrestas a las preal segundo v "preguntas" al tercero. Adems,llaman de y al coniunto fajo' tercer al lo, ,l-olos que doy en respuesta ,.t.rr" ^ ingls que "el programa" Ahora lo llaman p.opor.ionaron iegl.s en - la historia un poco, imaginemos que estasperbien, sl,r para complicar sc , nast am t in me p ro p o rc i o n a n re l a to s e n i ngl s, qtl e vo comprendo' v que luego me hac' preg.ntas en ingls sobre esos relatos v vo les resrambin en ingis. Supo'gamos tambin que despttsde ttn rato p,rr-r.lo i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos smbolos chinos logran escribir tan bien los programas desdeun punto ,, , p.o-grrrrrradores clevista externo -esto es,desdela perspectivade algien qlle se encuentra estoy encerrado- qtte mis respuestasa las ftrera de la habitacin cloncle distinguirse en absolttto de ias que proporcionara ttn pleguntas pr-reden podra afirrnar irablanted"l chit o. Nadieque slo obsen'aramis respuestas qne mis restambin Supongamos chino. paiabra de una ni qlle no hablo (qu dr,rda indistingrriblesde cabe) son en ingls preguntas a las ,i-restas ias cle otros hablantes del ingls, por la sencilla razn de que )'o sc)' tln hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien a l as preguntas en chi no ,.ue lea m is " r es p u e s ta s " -, l a s c o n te s ta c i o nes Empero, en el caso del buenas. igualmente son en ingls v . lu. preguntas mediante el manejo mis respuestas chino, a cliferenciadel ingls, fcr-rnulo cle smboios forrnales no intetpretados, En lo que respecta al chino, nle como una computadoa; realizo operaciones de cclmporto simplen-rente

cmputo con base en elementos especificados l'onnalmente. En cuanto al chino, no so\-ms q'e un ejemplo concreto del p'oer.arrra de tna c()mp'tadora. Ahora bien, las al-inaciones acerca de Ia t,q f.er.te esti-r'lan c-re la computaclora programada compr.cnde los relatos qu., p,..,g,-a,r-ra v e.iplica "l en cierto senticlo la conrprensin humana. Sir-renrbarg,r, n,-ra.-"r-r.orrtan)os ahora en una posicin qrle nos perrnite exalninar estas alir.nraciones a la luz de nuestro experirnento clel pensamiento. 1/ En lo que respecra a la pr-imera asever-acirjn,me pal.gcre bastate 6vio en el ejempl() qLle no entie'do una sola palabra cle los r.elatrs chi'.s. Mis entradas v salidas de informacin son ir-rclistingtribles de las rle rn ablrnte chino y'aunqlle pueda contar con el p'oe.a,'a forr,-.ral qlle s.- qr-rier.a, sig' sin ente'der nada. Por la misma raz.-t, lzr co'putacl'r'a cle .sclra.l. ,o entiende rada de ning. relato, sea en chino, en ingrs o en Io cr.e sca, ya que, en el caso clel chino, la cornputador.a so\ \o, v en l.s casos en qLle no s o l 'l a c o m p u t a d o r - a , e l l a n o ti e n e m s q u e yo 'e n e l ca so e n q u e l l . cn ti e n cl o nada. 2) F.nlo que concier-ne a la segunda afil''raci', c1,e el pl.()gr-.rra explica la cor-nprensin hunrana, podemos obsen.a' que la cornprrJora v sLl puog r a n r a n o a p o r t a n s r fi ci e n te s co n d i ci o r r e s d e co n r p i - en si r i n , ya q r r e la computadora v el programa se encuentl'an en frrr-lciorrrnrierrto lrD llay 1, cotnprensin. No obstan'.e, proporci<.rna siqr.li.2 una condicirin neccsar.la o hace una contr-ibucir-r significante parzr la cornpr..-nsi<in? llno cl, l.s argulrentos de los clefensores de la ln ftrerte es clile crrrncll co)l.ect() 1l relato en ingls, lo que hago es c-\actanle'te lo rnismo, o quiz-:i alg, nr:is, q u e h a c a a l m a n e j a r l o s sr n b o l o s cJr i r r o s.Es ta n s 1 ,, tr n i r - r r r n i r u l a ci o r .r sin-rblican'rsformal lo que distingue el caso del irigles, que s c,nr-,rc.rrclo, del de chino, qLle no conrprendo. Arrnque n..,lre clenro-*tr.clo la falsedacl clc esle argunlellto, clertamente parece incrtble en el e.jenrplo.La cl.eclibiliciacl que tiene el argurnento proviene de la strposicin de qtrr: podenrrs cr.car. un programa que tenga ias mismas entr.atjas 1, salidas qrre los hablrntes nativos, adems de suponer que los hablarrtes tiene'r.lalgrn nivel cle clesc r i p c i n e n e l q u e t a r nb i n e l l o s so n e j e m p l .s c,,n cr - e to sd e r r n l l r o g r .r r r :r . Sobre la base de estas dos iriptesis supollenlos cILre nun cuanclt el r^rg'ama de Schank no sea la historia completa de la cornpr-errsiirn,s ruccle ser. parte de ella. Br-reno,slrpongo que es una posibilidad ernptica, iero lrasta ahora no se ha oft'eci.lo la ms rnnima razrn p;rr-acrL-er.qrre sea cierta, ya qrie lo qLle el ejemplo sugiere --aunque ciertamente lro tlerntrestr-a-- es qll el programa de la computadora es sencillarnente ilr.elevante par-a nti r:ornp r e n s i n d e l r e l a t o . E n e l ca sc d e i cl r i n o r ,e r r r .o {o cl o Io q tr c l a i r r te l i g t,n t.i a artificial puede poner dentro de m medianre Lln prosr.anra, no entienclcr .\ n a d a ; e n e ] c a s o d e l i n e l s e n l i e n d o to cl o v h a sta e l n l o r n e n r o n o e r i ste

I]6

Y PROGRAMAS MENTES, CEREBROS

tvlENTES, ClIrliFIlR(lS Y I'R()L]R;\N1A,

n,

que mi comprensin tiene aigo absolutamente nlnguna razn para suponer s clecir' con operaciones de qLle ver con prograrrtut t cmputadora' especificados M-ientras el cmputo sobre puros elementos formalmente de cmputo sobre puros se d"fi.ta en tr-minos de operaciones ;;;;. sugiere es qtre stos ejemplo el que lo elementos clefinidos fr"tu1"-'"'-tte' relacin interesante con la comprensin' ,,o gt..dul ;;;;;;l;t ''tittgttt'o suficientes v no se ha dado la ms tofiditio't"' Ciertameute .to "*irt"tt condiciones necesarias' ni siquiera mnima razn para ,a'pot"t qlle son que la si!nificativa' a la comprensin' Ntese qr-recontribuyan cle diferentes mquinas que en -ot'"tu frterz-aciel argumento no radi sirnplemente operen entradas salidas de informacin aunque mismas teneilas -v aur] punto' tto."t ste' por supuesto' sobre diferentes principios formaies; :1 que formales principios puramente Meior dicho, cualesquira que sean los se intro du ce nenlac om put ac lor a' nos et ns uci e n t e s p a r a l a c o m p r e n s entender in' los principios fonrrales sin Ya que un ser tlu-u,lo'p'"" '"g'lit ulgir.ra para suponer que tales prinr.rada.Tampoco se nu orr".i" .irr, cipio sson ne c es 1r t . "' o' iq"l"t ' ac ont r i- bu1' "' - t t " ''p t t " t n o s e h a d a d o r a - operando tttu''ttio vo entiendo ingls' estov z-n algr-rna puru ,npott"'qtt" fornal' con algn proJranla caso de .las oraciolles erl IJLreno, entonces, qtr es lo que tengo en el La respuesta obvia chino? en .u,o de las oraciones ingls que no tengo "r.t"l no tengo la ms que mientras primeras' es que s lo que significan las Empero' segundas en qu conlas cle rnnima iclea acerca del significado lo que fuere? sea mquina' rlna a drselo p,,i.u*os ,ro siste esto y por qtr contlnllal' quiero pr'"g.nta rns adelante' pues primet'o Regresare o "rru con el eje mplo. a varios estudiosos He tenido la oporturniclad de presentar este ejemplo parecen estar de no que interesante reiulta cle la inteligencia artificial 1' actterd oco"nc r r les lar pli. c aadec r r ada. Heo b t e n i d o u n a a s o m b r o s a V a las ms conlunes (que riedacl de r.plicas y a continuacin considerar especificar iunto con sus orgenes geogr'ficos)' comllnes Sin embaigo, antes quiero cletener algrrnos malentendidos produce se discusiones estas de "con-rprer-rsiZn": muchas en acerca de la sealan crticos Mis "comprensin". palabra la de un excesivo tejemaneje que "comprensin" comprensin; de clifeientes gruo, qrre hay -.r.o, pi".li.udo de clos posiciones' que incluso-existen distintos simple r-.'o "r.trt ley del medio excluido tipos y niveles .1" compr"nsin v que a menudo la de ia forma " enenunciados siquiera se aplica i" *ur]".o clirecta a una simple 'i tie nd ey"; qlle en m uc hos c as os es una c uest i n d e d e c i s i n 1 'n o qrriero puntos estos todos A y, etctera. r entiende si .restin de hecho cle puntos los que ver con rlecir: por supuesto, por supuesJo, pero nada tienen "comprensin" se aplica literalqtl" iot .la.os .u.os Hu' discusin. e'n "tt

m c n t e v c a s o s o b'i o s e n q u e n . se a p l i ca ; ],e sto s cl r s ti p o s cl e ca so s so n t o d r l o q t r e n e c e si to p a r a e ste a r g u n r e n to .z yo e n ti e n cl o r - e l a t's e n i n g l s; en menor g|ado, puedo entencler |elatos en l'r-ancs; en nren()r.gr-aclorn, r e l a t o s e n a l e m n , p e r o e n ch i n o , a b so l tr ta n r e n te r a cl r .p o r .r i tr r p a r te , m i a u t o m v i l v m i s tr 'r a d o r a r o e n ti e n cl e n n a cl a : e se a s'n to no .- l est, i n "n c u m b e n c i a . c o n fi - e cu e n ci a a tr i l >u i n o s l a ca p :r ci cl a clcl e "co n r p r - e n si n ,,y otros-predicados cognilivos por nredio clc nretrfirr-a.. u.uloins r, a alltomr'iles, surnadoras v otros artefactos, rer-o.ada s" pr:r,"tr. co]r tales atl.ibuciones. Decimos: "la pue.t:r .sa,/;e crrinclo rbr.il.sc, a ca.sa clt: str celda fotoelctrica", "la sunrador-a.scl: t:rlttto (ertrt,rttlt, t:tjttto, (,.\(.(tl)(tz,/r,/ strnrar v restar pero no dividir", v "el tcr.nt<_rst alo .,tt,rt.ibc cant bios rle tt nt ttcratur_a,,. L a | a z n p o I - l a q u e h a ce m o s e sta s a tr i L r tr ci ,r n cse s L r r stl u r tr .i n t.,r - e sa n te v t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r te fa cto s e xte n cl e n r 6 s tr e sl r - a p r o p i a i n t e n c i o n a li d a d .r N r r e str 'r s h e r l a n r i e n ta s so n e xte n si r i n e s cl e n u e st r o s p r o p s i t o s v , p o r co n si g u i e n te , n o s p a r e ce n a l tr l a l a tl i Ir r i r - l e s i l tte n c i o n a l i d a d n r e t a f r - i ca tr e n te . Si n e n r b a r - so , a r n i .j r r i ci o e sto s c.j e n r r l e sr r o t i e n e n n i n g t r n a i m p o r ta n ci a l - i l o s l - i ca .El se l r l i cl o e n r l q r r e ,,,,. - r .,".tu a u t o n l t i c a " e n t i e n cl e i n str ttcci o l l e s" :r p a t- ti l cl e str ce - l cl lro to cl cl t- i ca l to e s d e n i n g t l n a n l a n e r a e l se r - r ti cl o cn e l c r - rr e ,o e n ti e n cl o i n g l s. Si r :l se ti cl o e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c,r ,r r r r - ",r ,.1 " s r .e - l a to s lg e s s L r p u e s t a m e n l e e l se n ti d o r n e ta l ' r .i co e n r .l q u e l a ta r r l tl tt ti ca ,tr .,r e n t i e n d e 'l r o e l s e n ti d o e n e l q u e 'o e 'ti e 'cl , i n g l e s, l l ,, r 'a l cl r .r .r l a p e n zr discutir-el astrr-rto. Si n e n - r b a r g o , N e u ,e l l v Si l r .l o n ( 1 9 6 1 ) t- scr .i b i e r ( ) . q r r e e l t i p o d e c o - e n i c iti n q u e a tr i b tr ve tr a l a s co n r l l u ta cl o l 'a s e s e \a ctl n r cn te el m i s m o q u e e l d e l os se r e s h tr m a n ,r * . M e a g r a cl a l a t.e cti ttr clcl e e sl a a l i r .n tr _ c i n Y e s d e l t i p o q u e co n si d cr - a t . Ar g r r n r e n ta l ' q u e c sr ' ti cl e l i te a l la c o m p u t a c l o t 'a p r o g r a m a d a co t- t- tp t'e n cl le o q u e e l a u to n r r ,i l v l a sr r r n a cl o r .a , e s d e c i r , e x a c t a n t e n te n a d a . L a co r r r p r .e n si r r cl c l a c,r l r l .r r ta cl ,,l t l to e s p r e c i s a m e n t e ( c o m o m i co n r p r - e n si n cl e l a l e n r .) p a r ci :r l . i r cr r r p l e ta ; es nula. P a s e n t o s a h o r a a l a s r - u l i ca s.

2 " C onl pr ens i n" ta l l l b i n i n t p l i c a t a n t o l a p o s t ' s i n c l e e s t l i l o s n l c n t rl c s (i rrt t . c i 6 rrl l e s ) c or nr l a Ver ac i c l ad ( v al id e z , x i t o ) d e c l i c h o s e s t a c k rs . P a l a l o s l i n c s rl c c s rc e n i l i s i s rro s l i n ri tar c - m os a l a pos es i n cl e l o s e s t a d o s . ' I- a i l l tt- t- tc i onal i dad e s , p o r d c f i n i c i ri n , l a c a l a c t e r' s t i r: a c l c c i c l t o s rs t rrl o s rrrc n l a l e s n rc . di ante l a.c ttal s e di dgen a o b j e t o s v s i t u a c i o n e s c l c l rru rrrl o o s c o c u p a n c l c t ' l l o s . p o r. c o l rs i gui etl te, l as c r eenc i as , l o s d e s e o s v l a s i l rt c rrc i rn c s s o n rs t a d o s i n t c n c i o n a l c s , r)ri c n t t a s (l u c l as l onnas ,r j i r i gi des d (' rn g l t \ l i i l t \ i , rt ) i l o l , r \ , I r l , ; i l r n t rr0 r i l l l , , rl r; rr i , , l l , r, , , ; rs r, \ (i (. 1 1(, Seel h'( l qT qL

MENTES, CEREBROSY PROGRAIVAS

MENTES, CEREBROS Y PROCIRAMAS

89

1 . L A NPUCA DE I- OS SIST E\{ AS (B E R K E LE Y ) habi taci n no enti ende A u n c u a n d o e s cie r to q u e e l in d iviclu o e n ce r r a d o en l a qtle s el hecho es que l es s una parle de un sistema con'lpleto ;l-;;ht;, el que estn e' libro p,l enorrne un s ant tiene inclividuo entiencle el relato. realizar los las reglas, ..,".,tu .ot gran cantidad cle pa-pel 1'lp,icespara chi no.s. Fntonces, "r..iiu, . i . " f " r , t i e n J " b a n co s d e d a to s" d e lo s co n ju n to s de smbol os slo ai ini'iduo, sino a todo el sistema del la comprensir, .r., pr"J" u,b.ri.." que l es slo una Par1e.

permitarnos que el Mi respuesta a la teora de sistemas es muy sencilla: las.eglas inclividu absorba toclos estos elementos del sistema. Memoriza clculos todoshace clel libro y los bancos de datos de los smbolos chinos v ha1'absolutamente No sistema. los mentalmente. Luego, incorpora todo el haya incorporado. Incluso poden'ros deshacerll;rda en el sistema qr'" "" trabaia al aire lib.e' De cualquier modo' ros de la habitacin -.rrrpo.t"iqt'e pues no hav nada .l-ti,to de I'n firtiori tampoco el sistema' irr entiende nada no haY modo L.n ste que no est dentro de 1. Si l no entiende, entonces de l' pae cle qr-reei sistema entienda, pues el sistema es slo una a la respuesta esta incluso E,n realidad, me siento algo molesto pcr clar bastante parece me teora la 1t-or-ade sistemas,.va qlle, para empezar', chino, \a cottirrverosmil. La idea es qlle aunqlle Llna persoila no entienda poda manera alguna de papel de peiacitos de iutrcit'L de esa p"r.orl^ -y estllqlte no eiltencler chino. No me l-esulta fcil imaginar cnlo alguien, esta lerosmil r.ier-abaio el dolninio cie una ideologa, podra considerar con conlprometidas personas las iriea. Incluso as, creo que muchas cle qr-re as parecido; mu' algo por decir acabarn la icleoioga de la l frrerie opinin, esta de una con acuerdo De adelante. poco ms u.r Siar-nos "'ersitin entienda el htmbre clel ejempio de los sistemas incorporados no ",,r,q.," por (porqte, ejemplo' qr" Iohace tln hablallte c.hino r,liin1en el sentido "t se refiere a restatll'antes y hambuguesas,-eic.), "eI rr,,rsabe que el relato real' !r,)nrbr-een cuanto sistema cle manipulacin de smbolos forrnales" s i s t ema e l q u e c o l l s t i t u v e hom b r e del s ubs is t em a l]tttte s en tien de c hinc t . El : confrrndirse debe no chino para ei forntales smbolos de nranipulacin d,: r',.'n el subsistema para el ingls. As que en realidad existen dos subsistemas en el hombre: uno que en"lo que sucede es que ambos sistemas tienen lit,ncle ingls y el otro, chino, -"em bar go, q u i e r o r e p l i c : r r q u e n o s i o Sin D luv p oco qu e v er ent r e s "' s, siuo que ni siquiera son l'enlotamente ver entre que poco muy tienen :;emejantes. El subsistema que comprende ingls (suponiendo que l)os per:itiremos por el momento l-raplar con esta jerga de "subsisl,emas") sabe ,lr re los relatos tratan de restaurantes y de comer hanrburguesas, sabe que

se le hacen preguntas acerca de restau'arltes y que est resporclierclo lo mejor que puede al Jracer varias infi:rencias a partir del conteniclo cie la narrat:in, y as sucesivamente. Pero el sistema chino no sabe nada cle esto. Mientras que el sistema ingls sabe que "hambur.guesas" se r.efier.e a hamburguesas, ei subsiste.ma chino slo sabe qtre despus cle "giiir.i giiiri" aparece un "guara guara". Todo lo que sabe es qlle los distintos srnbolos formales ingresan por un extl'emo, se nraniprrlan confor-nre a r-cglas e,scr.ita.s en ingls y otros smbolos salen por el otro extrc-nro. Tocl,r c.l .ropsito clel ejemplo original era argurnentar qlle esa rnanipulrcin de srrr[l<.,s ror-s misma no bastaba para compre'de'chino en ningn sentido literal, p()r q.e el hombre poda escribir "guara guar-a"despus cle "giiir-i giiir-i" sin enl ender. nada de chino. As que postular strbsistemas dentro del fionrbrr..o sat isf ace el argumento, porque en pr-imer lugar, los srrbsisternas r)() se cncllentr.an en mejor posicin que el l-rornble; no poseen nacla que se par.rrzcr sicluier,a r e m o t a m e n t e a l o q u e ti e r e e l h o m b r e ( o str b si ste r n a ) q u e h a b l a i r r g l s. D c h e c h o , t a l c o m o s e d e scl i b e e l ca so , e l sr r b si ste r a ch i n o e s ta n sti l o u n a p a r l e d e l s u b s i s t e m a i n g l s, u n a p a r tc q r r e i n te r l i e n c e n e l r r r u r c j e cl c s r bolos carentes de significado confor.me a las r-eglnstJ.,l inglr:s. Preguntmonos qu es, en plinrer lrrgar-,lo qrre.supuestlrilerrtc roti\r al sisten-raa r-esponder; es decir, qrr l'r-rndanrcntr)s itttleletttlil(r.s sc sLlp o n e n p a r a a f i r m a r q r r e e l a g e n te rd e b e p ( ) se e l . n sr r b si stc. l l r tl t l _ r l l e s que entiencla literalmente lelatos en chilro? Hi,sta clrrrrle rtreclodccir, los nicos fundamentos son que en el e.jenrplo vo tengo la r.is.r:i crrtr.aclay salida de infornacin que los hablantes clel clrino v un pr.ogl.anra qLre 'Lr de la una a la otra. Pelo el propsito crbalde k-r.s eiernplos lla siclo ir rterrtd e m o s t r a r q u e e s o n o b a sta b a p a l 'a co l n p l 'e n d cr e n cl se n ti .k, e l r q r e vo c o m p r e n c i o r e l a t o s e r r i n g l s, p o r q u e L l n a p e r - so l l a ..\'p ( ) r co i l si q u i e n te L - l conjunto de sistenras que la constituven, ,odra 1ener.la conrbinrcirin r:tl_ necta de entrada, saiicla v progr-ama v arrn as no r.ntencler. nacla t-rr el senticlo literal pertineltte en el que vo enliend,r ingls. I-a tinir:;.rnrotivaci<in para afirmar que debe existir rtrr srtbsistcma en nri interior crrecr.rrrrpr.eclc chino es qlre vo tengo un prograrna v aprol.,t- la pnreLra de 1'trr.ine; rrrecltr e n g a r i a t - a I o s h a b l a n t es n a t.i vo s d e l ch i n o . Pt r - or r n o r i e i o s r tr to s e c e s, tin es precisamente la suficiencia cle la rr-ucb:r clc -r-rrlirrr.]il ejernplo m u e s t r a q u e p o d r a h a b e r d r s "si ste m a s"; a m b o s p a sa n l a p m e b a cl eTr r r i n g , p e r o s l o n n o c l e e l l o s e n ti e n d e ; v n o ti e n e se l tl i i |l a r g u n te n l a i .co n tl .r e st( l para decir que, como arnbos pasan la jc'lre lnreba dt rr'ilrr'., rnrl-ros conrprencier', ]/a que esta afirmacin no satisface c.l ;rrlrnrento clt-'ctre el sistenra dentro cle m que complende ingls tiene nrtrcho nrs qrre el sis[enra que nada nrs procesa chino. En rocas paialrras, l;r rplic:;r c,ltlos sistcras s e n c i l l a m e l r t e d a p o r se n ta d a l a cu e sti n .r l i n si sti r si i r a r g r r n r er r to s r tr c e l sistenra debe entcncler chino.

F
r
F

E
90 AS Y PROGR,A]\ CEREBROS MENTES,

t t
F t t

corrsecttencias Adems, la rplica de los sistemas parecera condttcir a que debe concluir de que son independientemente abs'rds. Si hemos entrada de especie una que tengo existir coglticin en m sobre la base de pareceria entonces ambas' entre programa v salida cl" inforttlacin 1'un acabarn qtre todos los tipos de subsisien-,as que no sean de cognicin el cual mi en descripcin de ni'el un existe eiemplo, Por ,l"r-ro cognitivos. cualqtr ier canestmagJp.ocesa informacin - eien'rplifica co.cretamente que no queremos cle conlptltadora, pero considero tidad de p.ogru*^. sl aceptamos Pero 1980). (cf. P-I1'shvn, clecirque tiene comprensin alguna evitar podemos cmo dificil resulta la rpca cle los sistemas, entonces "'er subsisteson etc., hgado, el corazn, el que estmago, el la af-irmacin de principios para rras que .ort-rp."n.l"r-t, puesto que no hay una manera de entiende de chino el subsistema a decir qr_re distinguir qu nos chino sistema que el -oiir",u decir afirmlr qu. el estmago entiende. Por cieflo, entrada tiene estmago que el tiene informacin cle trada y cle salicla v constittlve una respuesta v salicla cle alimentos v productos alimenticios no agente -desde mi punto del r,ista punto de el qul desde a esta cuesti', 1,a ni en el chino, pLles esta comida la en ni informacin existe cle vista- no La lengua no es ms qlle tlna serie de garabatos carentes de significado oios los en informacin en el caso de chino se encLlentra exclusivamente qr're les impida de los progran-raclores y de los intrpretes, v no ha1' nada rganos digesmis de salidas entradas las t .or-,siderurl.omo informacin , ean. livos, si a s lt - -des en la El ltimo punt o s e r ef ier e a algunos a p r o b l e m a s i n d e p e n d i e n l e s tuet'te ]a.tn Si ia pena des'iarnos un poco pal'a explicarla. lA [r-ler-te v 'aje distingtrir ha de ser unu .u,r-tucle la psicologa, entonces debe ser capaz de Debe son' lo que no los de rnentaies Ios sistemas que son genuinamente de nrente la trabaja que los sobre principios los ser capaz. de isting.ritas, no ser no de menlales; no sistemas los trabajan qure los sobre oquellos distincin n os expiicar qu es es pec f ic am ent e m e n t a l e n l a m e n t e Y l a jos espectador' del los o en entre ental )'no mentl no puede quedarse slo sino qrre de be s er inlr ' lls ec a a los s is t en l a s ; d e n o s e l 'a s l . c a d a e s p e c l a do. pod.u tratar a Ia gente como no mental y, por eiemplo, a los huracanes conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la literatlrra sobre IA esta clistincin resulta confusa en aspectos que en el largo plazo resultaran desastrosos para la afirmacin de que la IR es una disci"Puede decirse que plina cognoscitiva. McCarlhy, por ejemplo, escribe: y tener creencreencias tienen los termostatos tan sencillas conlo r-r-rquinas capaces las mqttinas de mayora de la caracterstica Llna parece ser cias cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene la probabilidad de ser una teora de la mente debe ponderar las implicaciones cle ese comentario. Se nos pide aceptar como descubrimiento de la

r.
, t l ,

IV IE N TFS , ]E R FB R OS C Y P R O(IR A ]\J A S

9I

t r I
f

I
E

t I E

[.

IA fue.te que el pedazo cre.metar en ra par.ecl crre rrtiriza'ros Pa.a regurar ra tenrperatrrratiene c'eencias eractamc-rtecn el ,-risrlrosentlcl,ren que no_ sotros, nuestros cn-r,trges v nuestl.os hijos las lenenlos,v aclertrs, que,,la ntavora" de l as dem s nt quinasde I a ir abit aci, i , "1. , f sumadora, i nten- upt orcle "". , '*l"baclor a, - lt r z- t ar nbin t iellen cr et - ncias en est c sent ido literal No es el propsi1ocleestear1curoa'gr.re'rar.e, contl.r der pr_rnto de M.ccarlhv, as que simpler.'entee,*p,r..rr. r., sigrrierrlc sin crisc rrsin.El estudi o de Ia ment e par t e cr ehechos 1ur "r . , r , , . r , . , gr r c los r r r r nr ar . s t ienen creencias,ntientras que los terntostatos,telf onos o ,un'..l.rr=,r,-rr. Si ," obtiene una teora que niegrreestepu'to, se rrabr. rogr.aclo ,,,-, ..,r-rtro""-plo de la teora v sta ser falsa.Se tiene ra impr.esi<iir crecltrerrr-p",.roru, qlle se oclrpan de la L'\.vescriben este tipo crecosasricrrsa.r q.,J pued",-, salirsecon la_suya, porqlle no la tonran reallnenteen ser.ir_r v tantpoco pien_ san qlle los dems lo harn. propong' q'c- al nrenos p,r,l.r ,r-,.rr,,rento la consi cl eremos pienseint ensant er t f e ser iam ent e. clur _ant re r n r lir r r t o gu se necesitarapara establecerqlle ese troz()clenreral en Ia par.ecl tie'e creencias reales,creenciascon cli'eccioraric'racr, con co'te'ir[. pr..r,sicional y condiciones de satisfaccin;c.eercias que.trr'ier.a' ra l,rsibilidu,l.r" ,",. sl i daso dbi l es;cr eenciasner 'iosas,a. , siosus o segr lr . as; cr . eencias dogmti cas,raci onales o super f iciosas,f c'sciegaso cognicior r r . t sir r r beant es, crralquiertipo de creencias.El ternrostat,,,ri .,o,,Ji.r"t,,par.r r,o, como tampoco l o son e l est m ago, ", r . a, el h gado,r a s"r adr er t cif . r '. sin em _ bargo, p.esto qlle estanros cor-rsicler-anclo la idca scr.ialrrerrle, ,bstir-vese que s,u'erdad ser'afatal para la afirmacirin de cltreIa lA frrer.trcs llril clencia de l a mente P o. ahor a, la r r ent e se e. cl er t r - a en lr cr : r s r ar . t t , s. Lo qt r e saber es qu dist ingr r ea la nt ent e clc los t er . nlos{at t , s 3yeri amos v cle los hgados Y si Mccarthv ru'iese t'az.(:n, ra r ftrerlc r- ;;u.i;;;;rr,,,,,o peranza para decrnoslo. "r-

2. LA RpLr cA DELRoBot ( ynr _e)

S upongamos que c s c l i bi rnos un ti po c l e pr-oqrrnra c l i l ' el .c nteal c l e S c l l ank . S u_ pongamos que po nemos una c omputador-a dc nl ro c l e un rrtrrtv c trerrs ta nt s ri l c r acepta smbol os fonr-ral es c omo c ntrac ra y pr,c ruc e' s -nbol os f,,,.,,,^1", ..,n,r,, sal i da, si no que cfec ti ' amentL- opera ar r.,boi c re tar nrtnc -r-a qu., e.t.:-r,og,nul g,, mu1'parcci do a perc i bi r, c ami nar., des pl az ars e, mai l l ar., .,,,r,"., betr.,r. l . q' e se qui era. E l robot tendra, por c .j enrpl o, una c .i rnl u.a c rc tc l ev i s i ri i l c gr-ardz rra cual l e permi ti ra "v er"; tendra braz r.s pi c r.rl as v p.a p6< Ier ,,ac tuarr,,v l oc l o es l c r l o crntrol aa su "c c rebro" c re c omptrtadc ,r-a. A c l i ferc nc i a c l e Ir.,,,r,,,,tr,.r,r,,u.1" schl nf, este robo t s era c apaz .l " i rno gc ntri na c rnrp.e-.s i rn v c l c .trrrs es tac l .s mental cs.

I
I

t,

92

MENTES,CEREBROSYPROGRAMAS

acerca de la rplica del robot es que Lo primero que hatrra que obser-var se acepta tcitamenle q.r" lu cognicin no es nicanlente una cuestin de n.ranipulacinclesmbolos fornales, ya que esta rplica aade un conjunto exterior (cf. Fodor, 1980)'Pero la rescausalescon el n-rundo rle relraciones que la inclusin de estashabilidades "peres pesta a la rplica del tobot y "motoras", en nada contribul'e al entendimiento,en par-ticular, c.eptuales" o a la intencionalidad, en generai,del programa original de Schank. Para se puede captar esto, obsrveseque el r-nismoexperimento-pensamiento dentro computadora de la .,rii.u,-al caso dei robot. Supo.gamos qLleen vez del chino, original caso el en como dcl robot, me lneten elt una habitacin 1,', en instru-cciones rns con lengua esa en srnbolos se me propor-cionan ms para chinos smbolos otros con chinos los smbolos par-a aparear rngls aunqueyo 1oignoro, otros smboloschinos al erterior. Supngase, ,lrji,olver algunos clelos snrbolosque recibo provienen cleuna cmara de telet'iclrre ,i,r irit"g.uda al robot y que los otros smbolos que vo remito al extedor los motores dentro del robot que mueven las sirven rJ.o echur u ^.tui Es imporla'le resalta que todo lo que esto' pier.nai o braz.osdel .obot. i,aciendoes manipula| slnbolosforrlales; ignoro todo lo dems.Yc)recibo la "ir1lbrracin" a panir del clispositivo"de percepcin" del robot v doY "istlrcciones" a su apar-ato motor sin saber que lo estoYhaciendo.Yo soy t l ltmrinculo cleirobot pero, a diferenciade los iromncuios tradiciona]es, ignoro qu est sucediendo;no comprendo nada exceptolas reglaspara la ,r,a.ipuiu.ion de srnbolos.Ahora bien, cabe mencionar en estecaso que el pues sencillamentese rrbol carecepor completo cleestadosintencionales, e1ctricc-rs circuitos de sistenia de sLl ' clesu p|ograma. como r.esultado a,:1.iva irOr. otra parle, ai ejeinplificar concretamenteel programa vo no tengo estodo lo que hago es seguir instmcciones taclosintencionales per-tinentes: raramanipular smbolos fonlales. (Br'nr-elr'v Y [4ir) DE cEREBRos sIMUI-ADoR .3.Ln nplIcA DF,Ique S ) u p o n g a m o s c u e se d ise a u n p r o g r a m a g u c llo representa l a i nforrnaci n t . . r i em o s a c e r c a cle l n r u r id o , co m o se r a la in fb r r n aci n de l csl i bretos de S chank, s i s q u e s i m u l a la se ctr e n cia l- e a l d c e m isio n e s neurortal es cn l as si napsi s del c e r e b t . o d e n n ha l la lte d e i ch in o cu a n d o co r n r renc{e rr:l al os en chi no v otrece r'e-spuestas a c e r ca d e sto s. I- a m q u in a a ce p ta los rel atos ett chi nrr y l as pregutrt l i s s o b r e e l l o s a m o d c, d e e n tr a d a : sim u la la e st r-uctura frrmal de l os cerebros c l r i n o s r e a l e s a l p r o ce sa r lo s r e la to s t o fr e ce r e spuesta.s en chi no a manera de s a l i d a . P o d e r n o s in clu so im a g in a r q r r e la m q u in a no opera con Ll n sol o pr-ograr n a s c ' r i a l , s i n o co n to clo u n co n - iu n to r le p r o g r a mas que operan en paral el o, de l r t n i s m a m a n e r a e n q u e su p u e sla m e n te r ) p e r a n l os cerebr-os humanos real es c u r n d o p r o c e s a n e l le n g u a je n r tu r a l. Ah o la b ie n, no cabe duda de que en este

93 casotenclramos queafirnrarqLre la mquinaha comprencliclcl y si l.s relrt.s. nos negamos a decirlo,noestar'armos tnrbin n"guri.l,, quc los rrabla'tes del chino entienden los relat.s?En el niverde las srnapsis, serao p.dr.aser q' diferente entreel programade la con-rputadora 1,cl dcl ce-rebl.crrino? 'rogranla Antes de contradecir esta rp[ica,nre gLrstar-a haccr rrn parntesispara anotar que se trata de una rprica extraa para un partidari. de ra interigenciaartificial (o del funcionalismo, etc.):1,op"r,rt qtre Ia idea clela rR fuerte radicaba en qtre no necesitamossabe' cino ^ ftrncio.a er cel.ebro para saber cmo frrnciona ra l-rente. La hiptesis firndanie'tal, . as lo crea yo, es que existeln nivel cle ,peraciones mentales qtre cc,r]stade pocesos de cmpr,rto sobre los eremeniosfornralesque constitrr'en la esen_ cia de lo mental .',' que ptrecle lle'arse a cabo ,"1, i,,, ili;;;; rip.s cle procesoscerebralesdel mismo modo que "" cuarcuier.p,',,gr.onro iiu:..,.,rp,,tadorapuede funcionar en distinros/tardwares de comruraclor-a. segir' ras suposicio'es de la n fuerle, ra mente es crelcerebro ro que er programaes respectoderhardruare 'especto y, por consigiien{e, es posible entender la mente sin incurrir en el n'rbito lo ,-r".rrofisiologa. si p^,-o-t',u.",,o tu'leramos que saber cmo traba.ia el cereb.o, n, tenclr-a aur., o.r,p,,r.rroa de.ella.Sin embargo, aLlnctrando se encrentra tan pr-oximarllrr'cionamiento dei cerebro todar'a no es suFiciente para procltrcir compr.ensin. Para'er esto ms claro, imaginemos qLre en li,gu. e .,., honrbr.ji'o'olin_ geen una habiracinrevor'iencro smoros, tenenlos,n hrmbre orerancro un glupo complejo de pipas de agua conectacras c:o'r'lvtrlas.cr-rarrcro recibelos smbolos chinos, consultien el programa, escr.tto en i'gls, cnles vlvulasdebe encender o apagar. cacra coiexi'clc agua,,o.i]"rp,,,.,.r",. una sinapsis en el cerebro chino todo el sistena est cliseiraclo r cle lal maneraqr-re, despr-rs de todos los "encencricros" corrector, d".i., espus deponer en funcionamiento tocros ", rosgr-ifos .orr"sponclientes, rasrcspuestasen chino brotarn a la salida clela ser-ie ctepipas. A hora bi en, dnde est . ia_com pr ensin en est e sist em a?Acept a el . chi no como entrada, sim ur a la esir uct r r - a f or - nr alcr e las sinapsis r lel cerebrochino l'entrega chino como salicla. Sin errrbargo, er homr.eciertamenteno entiende chino, ni tanrpoco lo hacen ras pilas .r" ug.,^, .i ,,o. sintiramostentados a adoptar el punto cre a mi'lrricio a6srrrdo,de 'ista, qr-re de alguna manera Ia collunciiz de hombr", plpu, i" ;;.,;.;,rpr""_ de;recordernosque en prinr:ipio er hombre puecre inter-narizar la est^rctura formal de 1aspipas.de agua y rearizar en su imaginacin tocroslos "encendidosneuronales". El prolema con er simurador del cerebro es que simula aspectosequi'ocados cleste.Mientras lnicame'te sim.le la estructura formal de la secuenciacle "encendidos" neuronales en las sinapsis,no habr simulado lo que realmente es impor-tanteacer-ca der ce-

IVENTES, y pROCJtAMAs CEREBROS

94

MENTES,CEREBROSYPROGRAN{AS

(IFIIEBROS MENTES, Y I'ROClRAfvf AS

95

su capacidacl de prodr-rcir estar-ebro; es decir: slls propiedades causaies' cle agua demuestra que las pipas las de clos intencionales. Y eiejemplo las propiedades causaies: para suficientes ,ott formales ,-,o ;;;pi";"i"t de las propiedades cauformales propiedades las iod".rro, extraer todas sales neurobiolgicas pertinentes' (BERKELEYY STANFORD) DE I-A COMBINACIN 4. LA RPLICA Arrncua nd oc ac launac ielas t r es r plic as ant e r i o l . e s p r - r d i e r a n . r e s l t l t a r c o m de la al contraejerrrplo pletamente convincente por s misma como refutacin ms en conjunto' colectivamenteson mLlcho habitacin china, si se cc''nsideran Imaginernos un robot que cuenta con Llna clecisivas. e incluso con.rincenles imaginemos en forna cle cerebro aloadaen su cavidad craneal; .u-p.ttuao* de un cerebro husir-rapsis las todas con programacla est que la comptttaciora del robot es indistinmano; imagtn"-.,. tu-bi" lue todo el conrportamiento conlo Lln slstema esto todo ahora imaginemos gtrible del " .,r, .". humano, e y salidasde datos' Sin entr-adas con tornpututlotu una como slo irnificado v no al sistema. ducla,en tal caso tendramos q.r" t.ib.ri.l" intencionalidad caso nos parecea racional' Estoy totalmente de acuerdo en qlre en tal que el robot tiene intencio."^ii^ irresistible, aceptar la iptesjs de y "" nada ms acerca de 1 En realidad' t"puto' nalidad, siempre y.*o '' los dems elenlentos de apafte de su apariencia v de su comportamiento' pudiramos construlr Si irrele'antes. son fi'ecuentemente ii.o-blnu.in dei comindistinguible an-rpliamente [uera rn robot, ..,'o.o*por.tamiento existiera que hasta portamiento llumano, le atribuiramos intencionalidad' alg rn motivopal. anohac er lo. Nonec es it ar a m o s s a b e r d e a n t e m a n o q t t e formal del cerebro humano' su cerebro de computadora es una analoga en algo a los argumentos de arttcle Empero, realmente no \eo que esto IA fuerte' la e-iemplificacin la con acuerdo qu: de por Ja rn ftrene; y he aqu v de salida-adecuados entrada de datos con ftrrnal p.og.ma t.t d" concreta de intencioconstituye r.,.,"to.ri.in suficiente, y de hecho es constituti'a, la operacin es mental lo de nalidacl. Al decir cle Newell (1979),la esencia de intenatribuciones las obstante, cle un sistema de smbolos fsicos. No ver con que tienen nada ejemplo este en robot al cionalidad que le hacemos que si el de suposicin la en simplemente basan se iorrnol"r. p.og.u-u, nosotro.s'.entonces i'obot se ve y se comporta lo suficientemente parecido a que debe poseer poclran-ros st.lponer, hasta que se demuestre lo contrario' v se comporlamlento su estados mentales como los nuestros qlle causen interior mecanismo Lln con contar que debe expresen a travs de ste, y manera inde.uput d,.producir tales estds mentales' Si supiramos' de pendiente, cmo explicar su comportamiento sin tales suposiciones, no le

atriblriramos intencionalidacl sobre toclo si strpir-anrosque posee Lrn programa l-ormal. ste es pr-ecisarnenteel ptrnto qrre trat en rrri rplica anterior a la objecin 2. Sr,rpongamos que sabemos q.e el comportarrie'l'del rob.t obeclecepor completo al hecho de que un hombre recibe en su interior-sn-rbolosfor-males no inter-pretados desde los receptores sensoriales del r-otrotv enva smbolos forrales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre realiza este manejo de los srbolos segrlrntrna ser-iedc'r-eglas. Supongarnos, adems, que este individuo no sabe nacla acer-cadel robot Y que lo rnico que sabe es cules oper-acionesrealizar con crrles smbolos sin significaclo. En ese caso consideraramos qtre el robot es un lnueco rnecrrico irrgenioso. La hiptesis de que el robot tiene mente r-estltar-a ent()nces inlrrsri[icada e innecesaria, puesto que ya no habr'a ninguna razirn para atribtrir.le intencionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto, la intencionalidad del hombre en el manejo cle krs srnbolos). El niar-rejode smbolos forrnales contina, los datos de entlacla 1'de saliclase con.esponclen con-ectamente, pero el rnico foco real de intencionalidad es el lrombre y l n o s a b e n a d a d e l o s e sta d o s i n te n ci o n a l e s p e r l i n e n te s; n o l e , p o r .e j e m p l o , lo que entra en los ojos del robot; noriette la tttettt:itittcle rnoverel brazo del robot y no conry)rendeninguna de lrsobserwaciones hccllas al robot o por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco lo hace el sistema del cual el hombre y el robot fonlan par1e. Para considerar este pllnto, comparemos este caso con otros en los que nos parece completamente natural atribuir intencionalidad a los riernbros de alguna otra especie de primates, como sinrios .v nronos, .y a rtnimales domsticos como los perros. Las razones de qtre ell'nos pu,:"..., natural son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias e s l n h e c h a s d e m ate r j a l si m i l a l a l n r e str o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z, s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r ta m i e n to d e l a n i m a l y'la suposicin de que est hecho de la misma materia catrsal, sLlponemos que el animal debe tener estados mentales que motiven su comportarniento y que estos estados mentales deben ser producto cle mecanismos hechos de esta materia que es como la nLlestra. No cabe cluda de que haramos suposiciones similares acerca del robot, a menos de clue tuvir-amos alguna razn para no hacerlo, pero tan pronto como supiramos que su comportamiento fue el resultado de Lln programa formal y que las propie<1ades causales reales de la sustancia fsica eran in-elevantes, abandonaramos la suposicin de intencionalidad (r,anse var-ios atrtores, 1978). Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por ello vale la pena considerarlas), pero que en realidacl no comprenclen el sentido de mi argumento.

NIENTES, CEREBROS Y PROCRAMAS

MENTES, CEREBROS Y |ROURAI\\S

9Z

(Y A LE ) 5. L A RPL ICA DE L AS OT RAS M EN TE S comque otla persona entiende chino u otra cosa? Slo porsu Cmo puecle saberce puede aprobar (en principio) l. computadora .o-o bien, Ahora p""-i""a. si se ha de atribuir de conducta tan bien como cualquiera; por tanto' i... p*.bu, computadoras' l as a a tr ib ursei e d e b e ta m b i n p e r so n a s, cognicin a otras

E s t aobjec in e n re a l i d a d s l o me re c e L l n arpl i cabrel ' e.E i probl ema dsnen estados en este caso no consiste en cmo s que otras personu5 les atribuyo cuando .ognlri.,or, sino ms bien en qu es lo que les atribul''o pretl'atarse podra qlle no es cognitivos. La ftrerza del argumento procesos los porque "uiudo, resultados' y sus de cisamentee procesosde cmputo cognitivo. No es clecmputo y sus resultadosiueden existir sin el estado "ciencias cognitivas" lespuesta a este argumento fingir anesiesia'En las la misma de mental .""fr"r.,po.t" lu ."Ilid^.I y la cgnoscibilidad de lo la realidad la presuponer las cienciai fsicas se tiene que ,rr^r-r".. q.," ' "r-, de los objetos fsicos' cognoscibilidacl
(BERKELEY) 6. LA RPLICA DE LAS MANSIONES N,ILTIPI-ES . I o d o c u a n t o u s te d a r g u m e n ta p r e su p o n e q u e la t slloti etl equer'erconconl pu' pero resulia que ste es precisar-nente el estado tadoras analgicas u?igi,ul".. procesos causale-s que usted actual cle la tecnologa. Cualesquiera que sean los in te n ci onal i dad (suponi endo que tenga a f i n r r a q u e s o n e se n cia le s p a r a q u e e xista construi r di sposi ti vos que cuenten d e ca p a ce s se r e m o s la r g a la a usted razn), al ti fi ci al . D e modo que sus y se r in te ig enci a c o n e s t o s p r o c e so s.r ..1 ", "so de l a i ntel i genci a arti fi ci al ca paci dad la a r e fie r e n se m o d o a r s u m e n t o s d e n in g n paia producir y explicar la cognicin'

E nr ealidadn o te n g o o b j e c i n a e s ta r p l i casal r,odeci rqueenreal i dad cosa p.ov"lto de la t fuerte al redefinirla conro cualquier trivial prola "l de 'uelve inters EI artificialmente la cognicin q.," p."J"r.u y "*piiqrl" trataba que se en estriba artificial originai . f,ro. de la inteiigencia ;;d" mentales son procesos d" ,rrru tesis precisa y bien ciefinida: los procesos Me interesa desafolTnalmente. definidos cle lementos ."-fr,u.i"'ales que ya no srga modo de replantea se argumento el si fiar esa tesis. Pero ya no habr porqlle siendo esa tesis, mis obiecionesya no vienen al caso, una hiptesis clemostrablea la que se puedan aplicar' trataa de responder: R"g.es"mos ahora a la pregunta que promet que nochino y puesto pero ingls yolntiendo pu"rio q.r" en mi ejemplo riglnal haber algo en m debe an chino' ni ingles que la mquina no "nti".td""ni

qLle pro\oca que vo entienda ingls, as co'ro debe faltar algo cor.r.espond i e n t e e n m q u e m e i m p i d e e n te n d e r ch i n o . I'u e s b i e n , p r q u e n o p o _ dramos proporcionar a una mquina esas dos.,,r.r, ,"ui'lo que fueren? No en principio, nirrgr:na razn po. la ctral no ptrdiera dotarse a 'eo, una mquina con la capacidad par.a entencler ingls o cllin,l, vi que en un sentido impoftante nuestros cuerpos con s's cer-ebr-os ,r' tr.".iru-"art" mquinas de esta naturaleza. pero s veo ar.qumerrtos nruy slidos para decir que no podramos proporcionarle tal cosa a una mq.ina, cuando ra operacin de Ia mquina se define exclusivarrente en tl.rninos de pr.ocesos computacionales de elernentos definidos lbrmalmc-nte; es clecir, ctrando la operacin de ia mquina se define conro el ejemplo co'cr.eto cle un progr?ma de cmp'to. Yo entiendo ingls y poseo otr-as formas cle intencionalidad, no porque sov el ejemplo concreto de un progr.ama de cmputo (soy, supongo, la ejempiificacin conc.etu d" ,',r.tos progr-amas de cmputo), sino po.que, hasta donde sabemos, so,v cierto tip,r de orga_ nismo con una ciefta estructura biolgica (es decir,'ncier-ta estructura qumica y fsica), la cual, en ciertas condiciones, es causarnrente capaz de producir percepcin, accin, comprensin, aprendizaje y crtr-os [enmenos intencionales. Y par-te de-la cuestin del presente argrmento es que slo algo que tu'iera estos poderes causales pdtiu tener intenci'naliclad. euizs existen otros procesos qumicos y fsicos que podran procl.cir exactanlente estos efectos; quizs, por ejemplo, los marcianos tambin tensan intencionalidad aunque sus cerebros estn hechos de clisti.ta nrater-ia. sta es, sin embargo, una prerunta emprica, muy similar a la cresi ra rbtosntesis podra ser realizada por algo con una qumica distinta a la cle la clorofila. Empero, la cuestin principal del presente argumento es qle ningn modelo puramente tormal ser jan'rs suficiente por s mismo para la intencionalidad, porque las propiedades forrnares no son ellas mismrs constitutivas de la intencionalidad v porque carecen por s mismas de poder causat salvo el poder de producir', ctrando se ejemplifican concretamente, l a s i g u i e n t e e t a p a d e l fo r m a l i sm o cu a n d o l a r n q tr i n a e st f.n ci o n a n d o . Y cualesquiera otras propiedades causales que tengan las realizaciones parliculares del modelo formal son irrelevantes para el nroclelo forrnal, porque siempre podemos poner el misrno modelo [orrnal en una r-ealizacin diferente en Ia que esas propiedades causales estn obviamente ausentes. Aun cuando, por algn milagro, los hablantes del chino pudieran ejecutar exactamente el programa de Schank, podemos ponereste mismo programa en hablantes del ingls, pipas de agua o computadoras, .,ing'no de los cuales entendera chino a pesar del programa. Lo que cuenta en las operaciones del cerebro no es la sombra formal pro-vectada por la secuencia de sinapsis, sino ms bien las propiedacles .eales de las secuencias. Todos los argumentos que he visto tavor de la

98

N,IENTES, CEREBROSY PROGRANIAS

versin fuer1e de la inteligencia artificial insisten en dibujar un contorno alrededor de la sombra proyectada por la cognicin v luego afinr-rar que las sombras son reales. A manera de conclusin me gustara intentar establecer algunos de los plrntos filosficos generales implcitos en el argumento. En aras de la clalidad intentar hacerlo en forrna de preguntas y respuestas, v comenzar con la pregunta ya gastada de: "Puede pensar una mquina?" La respuesta es obviamente s. Nosotros somos precisarnente esas mq uln as. "S, p ero , podr a pens ar un ar t ef ac t o, u n a m q u i n a h e c h a p o r e l llon-rbre?" Si suponenros qlle puede producirse ar-tificialmente una mquina que I)osea Lln sistema ner-vroso, neuronas con axones v dendritas, r, todo lo clerns, lo suficientemente seme.jantes a los nuestros, otra .,'ezla respuesta a la pregunta parece ser obviamente s. Si se pueden duplicar exactamente las causas, podran duplicarse los efectos. Y de hecho sera posible producir conciencia, intencionalidad, v todo lo dems utilizando algunos otros tipos cle prir-rcipios qurnicos que no sean los que utilizan ios seres humanos. Se trata, como dije, de rrna cuestin emprica. "Est bien. No obstante, podra pensar Llna computadora digitai?" Si por "computadora digital" nos referimos a cualquier cosa que tenga un nivel de descripcin mediante el cual pueda describirse correctamente como la ejemplificacin concreta de un programa de computadora, entonLresotra vez la respuesta es, por sllpuesto, s, )'a que nosotros somos las ejempli[icaciones concretas de cualquier nmero de programas de cmputo y podemos pensar. "Sin embargo, podra algo pensar, comprender, etc., exclttsivanlete en virtud de ser una computadora con el tipo colrecto de programa? Podra la ejemplificacin concreta de un programa (del programa correcto, por supuesto) ser por s misma condicin suficiente para la comprensin?" Segrn yo, sta es precisamente la pregunta que hay qlle contestar, aun cuando suela confundirse con una o ms de las preguntas anteriores, y la Lespuesta es no. "Por qu no?" Porque las manipr-rlaciones de smbolos forrnales por s mismas carecen de intencionalidad; son bastante carentes de sentido; ni siquiera son manipulaciones de sntbolos, ya qLle los smbolos no simbolizan nada. En la ierga lingstica, slo tienen sintaxis pero no semntica. La intencionalidad clue parecen tener las computadoras slo est en las mentes de quienes las programan y de quienes las usan: los que envan la inforrnacin de entrada v los que interpretan la informcin de salida.

paraentend"..hi.,jo

d:',..,. q.," f,',,g.ou,n r.,,,,,oll,o ,".,,u i,,r",.,.io_ ::?,::HXfffil, : taade "t e.ic'mplo, nada,por . r.."p".i.r.Ji"t
l-ro-u."
Esa caracterst,ica de la l _la distinci

MENTES, CEREBROS },PROCRAN{AS 99 El pr-opsito del ejemplo cre la habitacin china f.e intentar.crenrostrar. esto al mosrrar que tan pr.onro .on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema realmente tiene intencionalidad que (un hontbre) y lo pt.ograntantos con el

:1,:n:'::1,i1,""'onotingtiLe';;i

surdassi n forma al s una de int encion^iil; . Wiez_enbaur ( 1976, c: r p t ulo n ha f, orm"norizado cmo cons t.r i r. i):^l.rt^";"-0,,:, u na com llzandoun rollo de papel rr t ad..a uti_ higinico y un montn crepiedr.ecita.s. De nlanera similar' el p'ograma para entenderr-elatos en chino ptredeprogranrar-se una secuenciade pipas.de en agua, ,,rrr .or-r.rnto de rnq'inas cle o "r-, ;"&, ;,,1r.,,.,,, 'iento delos.,,o1",-'"gu.i,

illf"c"";i;l'd:J{l;:?:Xll:llilffi kT,,:i;:::ff ::,?;:"..j'ff -

del cerebro lo que el-programa es .especto crel rtartrtvare,,raraen varios puntos, ent.eIos cuale_s se encltentt.an'los .sigtrienles tres: , P ri mero, l a di sti nc.

neurofis iotoc" d;i;.,."b,.-.T;ffi ;",',:l.J::::i:ff ll:fi:Hl:';:.::

la afirmacin de que lu .i'..,Iu.'i; il;:; ser duplicacin. La ciisrincin entre el programa v su.re,alizaci'";;i;;;,'crtvare parece ser.par-arera distincin entre el nir,'el a ra de l"r n-,"nroi"s'c,l .i'ei cie las operacionescerebrales. "p"t".1.r.,", y si podam"r "r.]:iui. er niver cre,rer.acio'es talesconro un progra.maiormal, nren_ clescr_ibir., al parecer, i o esenci al ";;;;;;Ir"clamos acercade la m enle. in in. , ; ; ; i; .

:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.

raintencionaricracr, verse tcilmente que no adquiere ruede intencionalidad adicional al menr.r-izar el programa, pues el hecho;" ," enseachino. programa es puramente "" -".,.';;i;uiformal, per-olos estadosintencionares -^,t^:t-*o"'"el no son formales de esemodo. Se definen en trminos de str contenido, no de su forma' La creenciade que como figura fbrmar, sino como ".ta'or".rao, por e jempro,no se crefine .i".ro .o.rr"nido mental con concliciones de satisfaccin'con sentido d" Searre, r979a)v sirnirares'De hecho' la creencia como "d";;;.i;"i"5u.g tal no tiene srq.lera una ligura for.mar en estesenti do si ntcti copuest o que una r olu y iu _ir - ". r i"". , ""0""a". recibir un nmero indefinido d; sinrcricasdi[erentes en los distintossistemaslingsticos. ".;;;i";s rercero, como va mencion antes, los estadosy sucesosmentales son

delingls posea errieo,1;i1:nrila".""i""o"*

causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.

::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::

100

Y PROGRAIV{AS MENTES. CEREBROS

iiteralmente un producto de la operacin del cerebro, pero el programa no L's,en ese sentido, un producto de la computadora. "Bueno, si los programas no son de ntodo alguno constitutilos de los procesos mentales, por qu tanta gente cree lo contrario? Eso amerita por lo menos alguna explicacin." En realidad ignoro la respuesta a esa pregunta. La idea de que las simulaciones en computadora pudieran ser algo real tu\o qtle haber parecido sospechosa desde un principio, porque la computadora de ninguna nlanera se limita a simular operaciones mentales. Nadie supone que las simulaciones por computadora de un incendio de cinco alarmas podran incendiar un vecindario o que la simtrlacin por computadora de una tormenta nos ruede empapar. Por qu habra de suponer alguien entonces que una simulacin por comput.adora de la compr-ensin realmente entiende algo? E,n ocasiones se dice que sera ter-riblemente difcil lograr que las compuladoras sintieran dolor o se enamoraran, pero el amor y el dolor no son ni lns ni menos difciles que la cognicin o cualquier otra cosa. Para simular, todo lo qLle se necesita es un flujo correcto de entrada y salida de infomacin y un programa de por medio que transforme la primera en la segunda. Eso es todo lo que la computadora tiene que hacer. confundir la simulacin con Ia duplicacin es el mismo et.ror, va sea que se trate de dolor, amor, cognicin, incendio o tolTnentas. Sin en-rbargo, existen varias razones por las que se pens -r' quiz, mucha gente todava lo piense- que de alguna manera la u, reproduce, y por consiguiente explica, fenmenos mentales, )'creo que no lograremos erradicar estas ilusiones hasta haber expuesto cabalmente los motivos que lrssuscitaron. En prime r lu gar , v quiz lo m s im por t ant e , e s t t n a c o n l t l s i n a c e l c a d e la nocin de "procesamiento de inforrnacin". En las ciencias cognitivas, r-nucha gente considera que el cerebro humano, con su mente, realiza algo que recibe el nombre de "procesamiento de inforrnacin", v anlogamente la computadora, con su programa, efecta un "procesamiento de informacin"; pero, por otra parte, incendios v tormentas no llevan a cabo ningn procesantiento de inforrnacin. En consecuencia, aunque la computadora puede simular las caractersticas forrnales de cualquier proceso, sea ei que fuere, mantiene una relacin especial con la mente v el cerebro, porque cuando la computadora se encuentra adecuadamente programada, idealmente con el mismo programa que el cerebro, el procesamiento de inforn-racin es idntico en ambos casos, y este procesamiento de informacin constituye realmente la esencia de lo mental. Empero, el problema de este argumento es que se apoya en la ambigedad de la nocin de "informacin". La computadora no realiza "pocesamiento de inforrnacin" en ei sentido en que las personas "procesan infor-rnacin" cuando reflexionan, por ejem-

1I)I plo, en problemas de aritmtica o cuando leen r,,respondenpr.eguntas en torno a un relato. Ms bien, lo qtre hace la computador-aes n-ia.ipular smbolosformales. El hecho de q.,e el programador -ver i'trprete de ros .o-o"tadora r-rtiticen ri-iolo, para reernplazar.obJeros fj*:*: 9: algo ]? que esrpor compieto ftrera del alcancecie1..con,puta_ :::::ii?.:s qora.Keprto,ra computadora tiene sintaxis pero no semntica.En co.se_ cuencia, si tecleaen ra computacrora"2 ms 2 es igual a?", escribir "4".Pero la 'sted computadora no tiene ni idea creqtre "4" significa 4 o ctrarquier otracosa'Y la cuestinno es que carezcacleargr-rna info"rmaci.desegr_rncro orden acerca de la interpretacin cres's sriboros crepri'.rer:o,.t"r-,,,r.ro quesus smbolos de primer orden no tienen ningrrna interpr.etacin en lo que a la computadora se refiere. Todo ro q,e tLne ra co'rptrradora son ms smbolos. La introduccin cle Ia nocin cle "procesaminto de inrorma_cin" causa,por consiguiente,un clilema:o bien const.limos la noci. "procesamiento de de infrmacin" cletal ,-,.,un"ro qtre irnpliqtre intencionalidadcomo parte del proceso o no lo hacemos. En er primer. caso, la computadoraprogramada no procesain[or.maci.; slo maniptrla sr.bo_ los formale^s. En el segundo .u.rt,,, entonces,pese a qr-re la comprrtadora procesa i nformaci n, nicam ent e lo r r aceenel sent iclo q, , "io hacen Ias sumadoras, las mquinas cle escribir, los "r estmzrgos, ros ter-mostatos,las tormentas v los huraca.r".; u ,ub"., c.entan con un niver credesel que podemosdecirq'e aceptaninfolrnacin portrn extremo, :^nl_t^t_u1"" ta lranslorrnan v producen inforntacin de salida. Sin entLrar_g(), en esle casodependede los obsenadores externos interpretar la entraclav s:rrida comoinfornacin en el senticloorcrinario.y no.sc rirriiit., ulgunaentre la computadora y el cerebroen trnrinos"rt.r-,r". de cualqrrier.sinlilitrcl delprocesamientode informacin. En.segundolugar, en gran pade de la la hav nn concluctisnrou ()per_a. cionalismo residual.puesto que las computacloiasaclecunclamente pr( )gr.amadaspueden exhibir patrones de entiada v salicla similares a los cr,,, los seres humanos, podranroscaer e. la tentacincreposttrlar qlre rosestados mentales de la compritadora son similares a los estados.nentales clelhom_ Dre.r.mpero, una vez que \emos que es posible tanto conceptual conto empricamente que r-rnsistema contenga capacidacles lrtrma'^s en arsr^ camposin que de ningn modo posea intencionaliclacl, poclrem". este impulso. Mi sumadora de escritorio tiene capacicracr ";;.-;; clecalcrrlar., pero carece de intencionalidad, y en este artcuro he intentaclo cren.rostrar cue un sistemapoda tener capacidadesde entracla v salida cle irformacilr queduplicara' las de un hablante nativo clel chino y seguir sin errtencler chino,sin impoftar cmo estuvieraprogramada. Laprba de Turing e.s tpicade la tradicin en el sentido deq.rJ es cles'ergonzaclamente conductistay operacionalistay consideroque si los estudiosos clela ln repudiaran

N,IENTES, CEREBROS Y PROCiAN4AS

102

Y PROGRAI\IAS CEREBROS lv'fENTES'

N,IENTES, CEREBROS Y PIIO(IIAJIIAS

IO3

gran el operacionalismo' se eliminara por completo del conductismo y y duplicacin' i" confusin entre simulacin ;;;;" re.iiduai se ana a la fona reoperacionalismo ste En ter:cer lugar, la supola ln ftrerte slo cobra sentido dada siclual cle dualismo; "1"!ft" imporla' no cerebro el refiere' se la mente sicin dualista de que, en lo que a son ios r.t,-t.lonalismo), lo q.e impoa Iln la r, fuerte (asi.;;;J,-t de "l mquinas; cle su realizacin en programas, y stos.rot'i"a"p"tt<lientes realiz.ado ser podra el mismo programa en io que l.,;;";;ere, "electrnica' una sustancia mental car-tesianao un espritu 'echo, ir". sorprendente clue he hecho """ -aq"ina hegeliano. EI desc.brimiento ms clei mundo estudiosos de la IA estn los qtt" muchosde al analizar estas cuestiott"' "t mentales humanos fenmenos los que lrastante molestos .on.-mi t"u cle de los cerebros hureales fisicoqumicas puedan clepender a" i'opi"aucles de esto, se piensa un minuto acerca manos verdaderos. No obstante, si de la prol'ecto el que sorprendido' l'a puede verse qlle no debera haberme forma acepte'alguna que se a menos tA fllerte no tiene posibilidacl alguna' meen reproducir v explicar 1o mental col-lsiste provecto EI cle dualismo. sea slo pero a menos que la me-nte no ciiante el cliseo de programas' inclePend':1':i::::t;t"T;.",ono.:: conceptual ,i.to tut'tit'empricamente t"lil1" el programa porque pt'ovecto' r'iu tuu.r" a cabo el "t qlre la mente es crea qtle se c1ecualquier realizacin' A menos ;;;;,; empricamente -r'ersin como .on."ptual *,o ."."briseparable d"l 1o mental e.scribiendo reproclucii [uerte <]edttaiismo- no se pttecleesperar de los cere' ir-idependientes ser deben r, con-iendo ot'or.uttt', , 1"" ett"t particurares de ejempli[icacin concreta' br.osde cualesquier-a ot.us for-us op"tutiones de cmprrto sobre Si las operaciones mentales consisten "'-t qlle carecen de conexiones lntere' sr-nbolos fol-males, se decltrce entonces Sa nte scon elcer - ebr o. La lnic ac onex ins er aq u e e l c e r e b r o r . e s u ] t a r a s er mquinas capaces de eiemuno de los muchsimos tipos de p;';;;;;; ia vaes Esta forma de dr-ralismo no plificar concretamente el programa ssltrrclas' de dos tipos "" postula que hav r-iante carlesi^.,",.^Ji.i.rnur en que 1o especficamente insiste qt'" d" pcro es cartesiana "'"t "l '"t'tio intrn'"tu to'-t lut propiedades reales mental cle Ia mente ,-,ogt'utdu t"lacin de se oculta de nosotros por el hecho clel cerebro. Este dualismo implcito qtre la]ite ratr-r r aac er c adelal ar l. em et ec onf r e c u e n c i a c o n t r a e l . . d u a l i spostura pasar por alto es qlle slr i'J't 0".. lo que los autores parecen presupone una versin fuerte de dualismo punto de vista es que slo "Podra pensar una mquina?" Mi ^propio algunos tipos mu1'espe' slo efecto' ,"rna"mquina poclra pensar^y que' en q"" t:"g^11 los mismos 1'mquinas ciales de mquinas' u 'ub"t,'t"t"bros por la que ia IA fuerte razn la es sa pocleres causales que el cerebro' Y nada tiene que acerca del pensamiento' Ya que q.t" ,l".i*os ii;;"-p"."

decirlos acerca de las mquinas. Por su propizr definicin, se octrpa de programas y los programas no son ntquinas. No obslante, cualqtriera que sea la intencionalidad, es un fenmeno biolgico, \. es nrLrvpr obable qr-re dependa causalmente de la bioqunrica especlica cle sus orgenes como la lactancia, la fotosntesis o cualquier otro fenrnreno biolgico. Narlie slrpondra que se podra producir leche o azrcar-echando a rnclalun pr.ograma de simulacin en computadora cle las secuencias f'olmales cle la lactancia y de la fotosntesis; sin embargo, en lo qtre a la nrentc se refiere, nr-rchas personas se encuentran dispuestas a creel'en trn milagr-o cle esta nclole a causa de un dualismo profundo y constante: lrmente que sup()nen es Llna cuestin de procesos torrnales, independiente de catrsas nrater-iales bastante especficas en el sentido en que no lo son la leche v el rzricar'. En defensa de este dualismo a menudo se explesa la esperanza cle que el cerebro sea una computadora digital (las printeras cornptrtador'rs,por cierto, a menudo reciban el nombre de "cerebros electr'nicos"). Mas de n a d a s i n 'e . E l c e r e b r o e s, p o r su p u e sto , u n a co m p u l a d o r r cl i si ta l . Pr r e sto que todo es Llna computadora digital, el cel'ebro tantbin lo es. I-a cuestin e s q u e l a c a p a c i d a d ca u sa l d e l ce r e b r o p a r a p r o d u ci r i n te r r ci o n a l i cl a d n o puede consistir en su ejenrplificacin concreta dc trn progranra cle cmputo, ya que para el programa que trsted gllste es posible que zrlgo e.lcnrrlif i q u e c o n c r e t a m e n t e e se p r o g r a n ta l ,si g a si n te n cr csta d o s r r r e n ta l e s. Se a lo que fuere lo que el cerebro haga para prodtrcir intencionaliclacl, ello no p u e d e c o n s i s t i r e n e j em p i i fi ca r co n cr e ta r l te n te r r n p l o g r a m a , va c r r en i n g n p r o g r a m a p o r s m i sm o e s su fi ci e n te p a r - a l o g r a l l ri n ( e n ci o n a l i cl a d .{

BreLrocnAr
Fodor, J. A . (1980), "Methodok rgi c al S ol i ps i s m C ons i c l c rc d i sa R ers c al c h S trrtc gy i n C ogni ti ve P svchol ogv ", B ehat,i rral attd B rai tt S ' i ,rl r-.s 3, ,pp. 6-l ,l 10. McC arl hy, J. (1979), "A s c ri bi ng Mental Qual i ti es to Mrc fri nes ", c -n M. Il i ngl .. (ed.), P hi l osopl i cal P erspe c i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H trmani ti es P ress, pp. l 6l -195. N ervel l ,A . (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l rC i rf t' r' c ni, ci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l rir' S ci ettce,4, 1980, pp. 135-183. N ervel l , A . r'S i mon H . A . (1963), "GP S - A P x rgr' :rm that S i rnul rtc s [{ rrma.n Thor-rght",en E . A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortttuters arttl 7' l tc tttgtl t, N ueva Y ork, McGrarv-H i l l , pp.279-296. aE stot'endeuda que anal i z -aron con l as muc hs i mas pers onas c s tasc ues ti onc s v ugl ac l ez c r.r que mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al l a paci enci a Me gustaa en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland, RogerSchank, Robe Wilensky )'Tery Winograd.

IO4

MENTES,CEREBROSYPROCRAMAS

Pr,lvshyn,Z. w. (1980), "computation and cognition: Issuesin the Foundation of pp. 1 ll-132. Science",Behavioraland Braitt Scietrces,3, Ccrgnitive attd Urtderstandhtg, Sclrank, R C.-v Abelson, R. P. (1977), Scripts, Plans, Gcals, Hillsdale. N. J., Erlbaum. Searle,J. R. ( 1979a),"Intentionalitv and the Use of Language",cn A l\{argolit (ed'), Meaning and IJse,Dordrecht, Reidel. (1 97 9b ),"What is an I nt enlional St at e?",hI in d , 8 8 , p p . 7 4 '9 2 Vriosautores (1978), "Cognition and consciousnessin Non-Human Species", Behavioraland Brain Scietrces, ','ol 1, nm' 4, nmero completo' Weizenbaum, J. (195), "ELIZA-A Con.rputerProgram for the Study of Natural Language Communication Betrveen Man and Machine", Cotttttttttt. ACll , 9, pp . 3 6-4 5. (1976), Co,lll)uterPox'er attd Hunnnt Reason,San Francisco, W. H Freema n. Winograd, T. (1973), "A Procedural Model of Language Understanding", en R' C' Schank y K. M. Colby (eds.),CotnputerModels of Thought and lnnguage, San Fra ncisco,W. H. Fr eem an,pp. 152- 18.

IV. ESCAPE DE LA HABITACIN CHINA*

MARGARETA, BODEN

Eru su anrculo "Mentes, cerebros y programas" ( 1980), John Searle alega que las teoras de computacin en psicologa son esencialmente rntiles. Hace al respecto dos afirmaciones importantes: las teoras de computacin, de naturaleza puramente formal, no pueclen ayuclarnos en modo alguno a comprender l o s p r o ce so s m e n ta l e s; y e l h a r tl w a r e d e l a computadora, a diferencia de la neuroprotena, cal-eceobviamente de los poderes causaies adecuados para generar procesos mentales. Denrostrar aqu que ambas afirrnaciones estn equivocadas. La primera afirmacin de Searle da por sentada la strposicin (formalista), ampliamente aceptada de que los "cmputos' qlte se esttrdian en la ciencia de la computacin son pllramente sintcticos y que ptreden definirse (en trrninos igualmente adecnados para la lgica sirnblica) como el nrartejo fonnal de sntbolos abstractos tnediattte la aplicacin de reglas lnnales. Segn este autor, de ah se deduce que las explic:rcione-s formalistas, aunque adecr-radas para explicar el procesarniento cle "inforrnacin" sin sentido o ei manejo de "smbolos" en las computadoras, son incapaces de explicar cmo utilizan las mentes humanas lainfnnac:irin o los smbo1os,propiamente as llamados. El significado o la intencionalidad n() pueden explicarse en trminos computacionales. Searle no quiere decir con eso que ninguna mquina pueda pensar. Los seres humanos pueden pensar y stos, concede, son mquinas; inclr_rso adopta el credo materialista de que slo las mquinas pueden pensar. Tarnpoco dice que ios seres humanos v los programas sean totalmente inconmensurables. Acepta que, en cierto nivel sLlmamente abstracto de descripcin, las personas (como todo lo dems) son ejemplificaciones concretas de computadoras digitales. Ms bien argtrmenta que nada puede pensar, significar o comprender exclusivanlente en virtud de su ejemplificacin concreta de un programa de compntadora. Para convencernos de esto, Searle recurre a un ingenioso exper-imento de pensamiento. Se imagina a s rnismo encerrado en una habitar:in donde har una serie de fajos de papeles que contienen garabatos; Lrna ventana a * N{argaret A. Boden,"Escaping Fromthe Chinese Room",tomaclo del captulo8 cleConputer"Iodeb (1988).Reproducido of l+,|td con pennisode Cambridge Univcrsitypress.
105