〔前言〕
約瑟夫．魏任堡（Joseph Weizenbaum）現為美國麻省理工學院（MIT）電腦科學教授，在二十年前，他是電腦科技的先鋒部隊，但現在，當大家都接受電腦後，他卻成為電腦科技的「叛逆者」。一九五○年代，他與其他電腦專家共同設計了第一個「電腦化銀行會計體系」。一九六三年，他到MIT任教，並在那裡設計出能與人類交談的電腦「愛麗拉」（ELIZA），很多科學家將「愛麗拉」視為人工智能與精神醫學的一大突破，但他對大眾的過度熱忱卻抱著憂心，而開始思索電腦的「陰暗面」，他對電腦的感情可說是「愛恨交加」。
本文是他接受Science Digest雜誌專訪的節要，原載1983年12月《心靈雜誌》。
「電腦正在鼓勵某種思考方法，我們可將之稱為『科學的理性』。這種料學模式非常強而有力，它的確很神奇，但當它想君臨一切，也就是想接收不應該屬於它的領域時，就會產生危險。當『認為科學和科學的理性是探尋、了解一個人週遭世界的唯一方法』成為一種普遍的態度時，我們就會遭遇可怖的困擾。」
電腦正在鼓勵某種「思考方法」
問：很多人說電腦將大大改變我們的生活，我不曉得是否該買一部電腦。但當我看到某人在「蘋果二號」前高興地敲打著鍵盤時，我很難相信這些機器正對我們造成實質的傷害。
答：是的，當你想到一個人坐在電腦終端機前要它畫圈圈時，的確是很難相信電腦的戕害。但我們必須考慮它廣大的滲透性，以及人們花在那上面的時間。
你可以看出，電腦正在鼓勵某種思考方法——譬如你存摺的收支是否平衡等，我們可將之稱為「科學的理性」。這種科學模式非常強而有力，它的確很神奇，但當它想君臨一切，也就是想接收不應該屬於它的領域時，就會產生危險。當認為科學和科學的理性是探尋、了解一個人週遭世界的唯一方法成為一種普遍的態度時，我們就會遭遇可怖的困擾。我想我們現在已經接近這個地步，僅需坐令我們的文化裡泛濫這些適足以鼓勵不幸、且禍害無窮的機器，那個時刻終將到來。
電腦已對我們的語言和思想產生微妙影響
問：你能舉一些例子嗎？
答：讓我用下面這個非常具體的例子來說明吧，譬如說有一個人想要了解某個遙遠地方的風土人情，但他卻去找有關那個地方的統計資料，而拒絕去閱讀描述該地的小說，因為他認為統計資料是確鑿的、科學的，而小說卻只是幻想；這樣就會把事情弄得很糟。你知道，一個人的確可用電腦做出很多奇妙的事情來，但我不想為了電腦而排除某些經驗，譬如說宗教經驗的可能性。
問：你真的認為人們會愚昧或盲目到讓電腦來塑造他們的思想嗎？我的問題是你對大眾辨別什麼是機器能做的、什麼是機器不能做的能力似乎缺乏信心？
答：不錯，電腦對我們的語言和思想的影響是很微妙的，電腦的問世帶來了某種思考方式，譬如你剛才最後的一句話「我的問題是……」，在五十年前，沒有人會用這種方式說話，你可能說：「我不瞭解你剛才所說的」，或者諸如此類的話，但不可能說：「我的問題是……」，電腦為我們帶來了一整套與「問題」、「解決問題」、「對策」等有關的語彙，這些東西進入我們的語彙中，塑造社會大眾的思想，人們不可能經常對這種微妙的改變保持警覺。
它有正面與負面兩種作用
問：你在麻省理工學院的同事西摩爾．帕勃特（Seymour Papert）是鼓吹學校使用電腦的先驅，他說電腦不會強制為思考塑模，相反的，可以讓學童開拓不同的思考方式——擴展他們的創造力。你們兩個人怎麼會有如此不同的結論？
答：我們可以用下面這個比喻：譬如你正在看我書桌上的一枚銀幣，你從一個錢幣收集者或鑑賞家的觀點很熱衷地把玩它，但對我來說，它只是一個用來鎮紙的工具而已。你看，這兩種觀點沒有一個是完全錯誤的。
西摩爾的使命是要運用電腦，特別是以正面、建設性的方式來供學童使用，他看到的主要是電腦正面、建設性的一面，這一點也不足為奇，而我所擔憂的則是電腦負面的作用。因此，我不是沒有看出西摩爾著手方式的價值，我也非常同意電腦能提供孩子們構築城堡的奇妙沙堆——即使是大人也有同樣功效。我是第一個說電腦能為「思考」思想提供生動比喻的人。
我們正在進行一場「浮士德」交易
我所要批評的是這種思考方式的霸佔性本質，我的立場不單只是在說我們正在玩可怕的危險玩具，它們可能會將我們的臉炸得開花而已，我們同時亦在進行一場「浮士德交易」，不單指電腦，還泛指科學與科技。「浮士德交易」是交易雙方各有收穫，魔鬼（Mephistopheles，歌德所著《浮士德》一劇裡的魔鬼）為了獲得你的靈魂，給你某些你非常想要的美好東西。我想說的是世界各地的西摩爾他們帶來的是魔鬼的禮物，他們提供引誘我們的餌食，然後我們失去了靈魂。因此，西摩爾的「玩具」在表面上並非醜惡或者危險的，一點也不！它的壞處正是它的好處，你能瞭解這點嗎？
它能拓展心靈，也會侷限心靈
問：在廣義的層面上也許如此，但你和西摩爾之間似乎仍有基本上的不同：他說電腦能拓展心靈，而你說它會侷限心靈？
答：好吧，讓我們再打一個比喻，假設你想向我兜售一副雙眼望遠鏡，你告訴我說：「嗨，看看那邊的房子或者更遠處的帆船，你幾乎沒有辦法看清它們，現在用這副望遠鏡看看，你看它們變得多近？是不是很奇妙呢？你現在可以清楚地看到它們了。你甚至可以用我的望遠鏡清晰地看到月球上的人，但事實上，月球上沒有人，你只能看到一個個的火山口。用望遠鏡看你所能看到的一切東西，現在你知道望遠鏡能拓展你的視力了吧！」這樣說沒有錯，但每次我都必須付出角度受侷限的代價，每次我都喪失了整體的景觀。這並不是說望遠鏡就是不好的東西，但我覺得如果學校堅持學生只能透過這些人工鏡片來觀察世界，我想我到非常不安的。
問題是誰來介紹電腦
問：那你覺得電腦應如何被引進學校？
答：你這句話好像先認定我要將電腦引進學校，剩下的只是「如何」的問題。如果我能將西摩爾送進一部影印機裡複印，為全美國的每一所學校都「複印」一個西摩爾，我可能會覺得由「他」來向學生介紹電腦會比我好一點。西摩爾很慈祥，對小孩子也很好，而且他非常瞭解自己真正要做的是什麼。
在使用電腦時，學童們應先瞭解，譬如說，各種模式的功能及它們的極限，而需要先瞭解這些事情的是老師們，但全國的數學和科學教師約有一半都是非科班出身的臨時教員，而且幾乎每個人都承認老師對電腦的認識比學生還少——最少是在頭一個禮拜，試問我們如何在學校裡推廣電腦呢？
不要使電腦成為科技性賄賂
問：但，魏任堡教授，當教室裡擺著電腦時，學生們很明顯地認為上學是件令人興奮的事，而且透過終端機，你能夠做一對一的教導，這是以前一個老師同時面對二十或三十個學生時所無法做到的事。
答：首先，我應該再提醒你我所擔憂的浮士德交易，在學校裡以電腦來教學可能有好的一面，但更重要的是我們需瞭解學生們興奮的是什麼——而讓他們厭煩的又是什麼。我想要說的是電腦已成為一種擺平我們在學校裡所遭遇到各種麻煩的一種科技性賄賂，我們在學校裡安裝了電腦，然後就不再去想老師們偏低的地位和待遇，學校裡藥物濫用及課堂暴力等問題。
沒有「電腦文盲」這回事
問：目前家長們普遍有一種要讓他們的孩子成為「電腦通」的迫切感，大家有一種感覺，覺得一個人若不知道如何使用電腦就會變得無用。
答：這完全錯誤，譬如現在世界各地有那麼多電話，但一個人不必成為「電通」——去瞭解其中的訊息是如何交換的——即能完美地使用電話，同樣的，現在幾乎每個美國人都有電化產品——電子鐘、電冰箱、電動汽車等，但很少人認為他們必須成為電子工程師或「電子通」，才能物盡其用。電腦也一樣，人們會問：「你說得沒錯，但什麼是『文字程式』呢？」我的回答是：「你對電腦如何使用文字程式的瞭解不必比你對電話如何使用長途電話系統的瞭解需要得更多。」
我覺得「電腦通」好像是昔年「體味」的翻版，這需要稍加解釋一下。很多年前，部分藥廠投資生產「除臭劑」，為了銷售價值好幾十億的除臭劑，他們就必須先「發明」一個體味的問題，而除臭劑於是成為解決這個問題的妙方。現在，又有人發明一種新的精神疾病——「電腦文盲」，這相當危險，家長們信以為真，認為如果不採取對策來對抗這種可怕的疾病，他們的孩子就真的會很不利。如果它不是這麼可悲的話，我寧願相信只是一個笑話。
要有好的電腦程式，需先有好的觀念
問：但仍有越來越多的人購買電腦——有些是程式電腦——而他們似乎都很愉快。
答：的確是這樣，我們生活在一個消費狂的社會裡，如果有某種便宜的東西，沒有人會讓自己成為街坊裡最後擁有那件東西的人，這多少是一種趕時髦的現象。它使我想起幾年前流行的家用電影攝影機，我可以非常肯定地說，現在這種攝影機即使不是好幾百萬台，也有好幾十萬台被丟在人們家裡的櫥櫃裡閒置不用，你要如何解釋這種現象呢？我覺得人們會想如果他們有好的電影攝影機，他們就能拍出好電影，但他們忘了要拍好電影必須先有好主意。現在社會大眾又產生了同樣的錯覺：如果我有一部電腦，我就能寫出有趣的程式，做有趣的事，但要寫出有趣的程式，你必須先有有趣的觀念，而這些觀念卻很難產生。
「看，我們還有其他方向」
問：你不是真的認為電腦只是像電影攝影機同類的時髦品嗎？我的印象是人們之所以買電腦是因為電腦對他們的生活有某些實際或可能的幫助，他們希望電腦能處理他們的收支、稅及文字資料等，這和電影攝影機是極不相同的。很多人可能會把你的話解釋成是對目前科技衝動的一種反動。
答：我們每個禮拜都在朝某一個方向快速前進，我的建議或者我的希望並不是要「往回走」，而是說：「看，我們還有其他方向。」我不認為我們應該朝目前的方向繼續前進，我的觀點是我們若要做什麼，就應該深思熟慮，而不是盲目地去做。到最後，我要問的是：「這麼急促做什麼呢？」
你說科技本身有一股衝勁：一輛時速五十哩的汽車有它自己的衝勁，但我們不能因此說我們無法控制它。
電腦無法「瞭解」思考過程，只有「模倣」
問：你知道，目前很多電腦的大贊助者都是大學裡的電腦科學家，特別是電腦科學裡較神秘陌生的領域，譬如人工智能等。耶魯大學的羅格．襄克（Roger Schank）成立了一個公司，想開拓「電腦投資諮商」、「電腦遣囑撰稿」等，電腦到最後能真正模倣人類的工作。你對這種人工智能進入市場的情形有什麼看法？
答：我想，首先，「模倣」這個字眼相當重要，這些機器無法瞭解人類的思考過程，它們只是「模倣」而已。而且我認為，今天我們用電腦做出來的，諸如語言、對人的瞭解及生產等，都只是非常浮面的。順便問一句，誰需要電腦遣囑撰稿呢？
問：那些無法聘請律師的人。
答：我想窮人將會很感激襄克博士能替他們設想……。
對人類的重大侮辱
問：但現在襄克博士知道他的電腦，似乎也對這些機器充滿信任。
答：不，他並不信任電腦，我曾和他長談過有關電腦的事，才知道他是一個懷疑論者。他曾告訴我說，如果有人在他面前展示電腦系統，他會相信他親眼看見的一切，但只有這些，沒有別的。你可以將它稱為「襄克定律」。
問：但你也知道，襄克博士的公司正在從事對各種人的錄影工作，他希望藉此設計出一套能塑造個人專長的電腦程式。
答：這種態度正反映出他的過份自大，及對人類的重大侮辱。譬如說，找出一個很有智慧的老師，想要藉觀察她而「捕捉」她之所以是「明師」的本質，這是很荒謬的，沒有什麼意義的。我說具有這種野心的人、以及認為這種方法行得通的人都是在妄想。
電腦不可能經驗人人都瞭解的「孤獨」
問：你似乎認為，人之所以為人，有某些在電路圖案裡無法呈現出來的東西？
答：是的，人類有他的經驗史。
問：但耶魯大學的專家設計能夠學習的電腦，它們能透過「閱讀」新的電訊而獲得「歷史」。
答：很好，我並不反對。但電腦在那種情況下所獲得的經驗並非人類的經驗，譬如說，電腦不可能經驗我們每個人都瞭解的「孤獨」。因此，電腦靠它那些經驗所獲得的智能一定不同於人類的智能，電腦設計師有一天也許能成功地創造出一種新的「有機體」，但它和人類是不一樣的。這種「有機體」所擁有的智能——可能非常高——和人類智能的差異可能更甚於人類和海豚智能的差異。
問：其他電腦科學家正將人工智能推進市場這件事是否讓你感到困擾？
答：是的，我確實感到困擾，令我困擾的是這些商業努力同時降低了「為知識而追求知識」的科學興趣，他們不是為了知識，而是為了金錢。
「逃離」是我應該做的最後一件事
問：你對科技有一大堆的懷疑，那麼你目前在麻省理工學院做什麼呢？
答：以前也有人問過我這個問題。不久前，我在托爾斯泰的日記裡發現了答案。他說：「為了護衛自己的清白，在社會裡隱退，過著社區的生活，這是一種罪，一種錯誤……。如果一個人想淨化他的自我，一定要和他人一起做才能成功——任何人若想做好工作一定要投身在泥濘中。除非他已經身在其中，否則他不應該想到要離開。」我已經身在其中了，「逃離」是我應該做的最後一件事。
發佈留言