臺韓AI人文社會與法律規範研究交流工作坊
演講題目：Will Robots Take Care of Koreans? Technocultural Experiments in Human-Robot Relationship for an Aging Society
活動時間：2019年8月27日 15:00-17:00
主講人：全致亨教授(전치형)
- 美國麻省理工學院(MIT)科學、科技與社會(STS)博士學位（2010年）
- 德國慕尼黑切爾卡爾森中心(LMU, Rachel Carson Center for Environment and Society)成員
- 韓國科學技術院(KAIST)科學、科技與政策研究所(the Graduate School of Science, Technology and Policy)助理教授
長久以來，全教授關注韓國機器人與人工智慧的發展，特別是如何應用此等技術解決當代社會問題，如災難救助及高齡化社會下的老人照護等。而本次演講以「韓國高齡人口照護」為主軸，介紹一系列Technocultural Experiments的運作及效果。之所以使用Technocultural這個特殊詞彙，是由於此類實驗不僅涉及科技發展與成果測試，更將過程公開展現於電視、電影、網路等藝文平台，因此，除了實驗對象(即機器人與人類)間的互動關係之外，觀眾視角亦成為值得關注的焦點。
在這些實驗中，人類與機器人間可概分為兩種互動模式：第一種為robot-human interaction，也稱為human-robotic care，由機器人與人類一對一互動(one-on-one)；第二種為human-robot-human interaction，又稱為human-mediated robot care，由一個人類輔助機器人與他人間的互動。
根據經濟學人及韓國國內數據指出，該國不僅面臨嚴重的高齡化問題，更是全球老年人口貧窮率及自殺率數一數二高的國家。因此，不少電視台及通信業者紛紛發展出與這些議題相關的商品與節目，諸如KBS節目한국인의 고독사 (Lonely Death of Koreans)、TvN節目할매네 로봇(Grandma’s Robot)、JTBC節目스포트라이트(spotlight)，以及SK telecom商品AI Speaker。
其中，電視節目할매네 로봇(Grandma’s Robot)的製作概念是把AI機器人送往鄉間的獨居老人住處，讓機器人代替移居都市的年輕子女、孫子女與老人共同生活，提供幫助與陪伴。另外，SK telecom將其所開發的AI Speaker命名為누구，意思是「誰、Who」，同樣以幫助、陪伴獨居老人為目標，讓他們可以「有個誰」在家簡單對話、聊天氣、播音樂哼歌，甚至幫他們打電話給思念的人。除了這些簡單功能之外，SK telecom表示，因為AI Speaker擁有類似語音緊急醫療通報系統的功能，在產品初步測試階段，發生了幾次老人急需醫療救援的情況，而當老人大聲呼救時，因為有AI Speaker的通報而使其及時獲救。
然而，對這些老人照護節目與商品，全教授在抱以期待的同時，卻也認為它們尚有許多不足。首先，SK telecom並未提出實際案例佐證其緊急醫療救助成功的說法，全教授表示，我們也只能希望這樣的效果真的存在；但若沒有更多這樣的實用功能，對老人在生活上、情感上產生更有效的助益，AI Speaker或許會淪為只被用來聲控播音樂的小音響，辜負了設計者的美意。其次，할매네 로봇 (Grandma’s Robot)節目製作人的想法更是令人難以參透，因為節目考量收視率，找年輕演員、明星擔任出演嘉賓，結果卻是這些年輕明星成為維繫節目的最重要關鍵，機器人的角色顯得很不重要。節目中出現了一些耐人尋味的畫面，例如老人與年輕人對坐於屋邊喝酒聊天時，AI機器人被閒置在他們之間毫無用處，成為節目佈景；又如AI機器人問奶奶說：「您要一個人喝酒嗎？」奶奶回答：「對呀，不然我要跟你喝嗎？」隨著節目的進展，實驗中的老人們也漸漸意識到機器人終究不同於人類的陪伴，甚至更傾向與前來拍攝節目的人們對話。全教授進一步認為，根本是這些來自首爾的明星，讓節目中的一切對話成為可能，這些機器人充其量只是一次讓年輕人來到鄉間的理由，如此模式對於老人照護與陪伴而言終究不是長久之計。
全教授曾帶領學生進行一項與SILBOT有關的實地研究，研究最初係規劃在醫療照護中心內，由SILBOT機器人單獨與老人們進行教學互動，也就是前面提到的第一種互動模式human-robotic care；然而，實際運作的結果卻顯示，居中輔助協調的人類教師是極其重要且不可或缺的一環，例如在教學過程中，老人不會操作用來和SILBOT互動的平板電腦、聽不見或無法理解SILBOT機械式的聲調等，而這些問題都是由具有演說訓練及演員背景的人類教師介入始獲解決，讓教學得以順利進行，也就是前面提到的第二種互動模式human-mediated robot care；但是到了研究的最後，甚至發展成在SILBOT機器人出題的同時，教師必須大聲複誦題目，亦步亦趨地確保老人能夠理解，再次凸顯現階段的AI機器人，在老人照護工作中無法獨立採取第一種互動模式的不足。
綜上述研究觀察，全教授總結：依目前的案例分析可以發現，若只是放任老人與AI機器人單獨相處，其互動通常無法維持多久，或許不超過1分鐘；唯有透過其他人類積極地居中協調、管理，才能有效延長互動時間至超過3到5分鐘。易言之，由接受充分訓練的人類作為輔助角色的human-mediated robot care，相較於human-robotic care更具可行性、效率且更貼近人類心境。故，對研發者、政策制定者甚至一般民眾而言，最重要的任務並非讓AI機器人完全取代人類照顧者或陪伴者，而是將AI機器人技術與既存的社會工作者及機構緊密結合，使AI機器人成為可靠、具彈性的協作者，亦拉近家庭親族、左鄰右舍、社會工作者彼此間的距離，真正達成完善老人照護環境的目標。
與談及提問
Q1：
比較韓國與台灣，台灣沒有大型實驗或電視實境秀，只有小型的學術實驗室研究，為何會這樣？我猜測其中一個原因是，台灣的科學及工程研究社群與大眾有著距離，我們雖然有出名的企業家，但極少數研究者會使用媒體推展其成果。我不禁覺得，這可能是導致台灣沒有人類與機器人互動的大型實驗的原因之一。同時，亦有可能係因台灣的機器人研究社群比較務實，因為推廣有其困難，且機器人與人類互動、對話的技術尚未成熟，故主要將重心放在機械上的改良，例如自動車，但對face to face互動技術並不在行。
A1：
韓國的機器人研究社群相較於其他領域社群，的確與媒體有更好的關係、更active，其成功的原因之一，或許真的是機器人研究、human mediated模式以及HRI 常以「成功的演示」為基礎。當然，在實驗室裡有優良的成果十分重要，但走到外面向媒體、大眾以及潛在投資者的演示，及發表該技術的未來展望亦相當重要，因為必須如此，才能維持大眾對他們的關注與興趣。
Q2：
對於機器人與人類的互動模式有何期待？AI機器人的能耐？是否實際上只能執行最簡單的互動指令，像是治療失智症的日本療癒系機器海豹PARO？
A2：
雖然很多研究開發者，都將重心放在第一種模式，以讓機器人可以單獨、一對一、自由地完成任務為目標。但我和我的同事同樣關注第二種模式，其實比第一種更active、成功。
節目製作人和工程師想展現出機器人和人類可以成為朋友，產生情感上的連結，比較prefer第一種模式。但我認為第二種模式是比較可行、有效率、可被社會接受的，因為有第三者mediator在周圍可以幫忙。
關於AI機器人與人類的互動，與其探討技術上擬人化的極限，我認為更重要的應該是：具有功能性與實用性。因為我們並不需要讓AI機器人表現得像人類的情人或朋友一樣，只需要像是兩個一般陌生人的相處即足矣，也就是說，能夠對我們希望解決的問題起到作用，有意義、態度不錯就可以達成其目的了。
Q3：
從「照護倫理角度」而論，採取以機器人完全取代社工、照顧者的模式，或是利用機器人輔助人類進行照護工作的模式，支持者對於此二種模式中照護機器人的看法？有哲學領域學者認為，畢竟機器人只是方法，而不是目的，所以在使用機器人進行照護工作時，亦應遵守基本的「照護倫理」如下：
四項照護基礎：
- Care about (發現某人需要幫助)
- Care for (滿足受幫助者需求的責任)
- Care giving
- Care receiving
四項照護價值核心：
- 專注
- 責任
- 完善
- 反饋
A3：
同意以機器人為幫手是更能被接受的模式；但前者亦非單純全自動的模式。需要放遠來觀察，看看到底還需要哪些人手參與這樣的互動，再來評估。
Q4：
將AI機器人運用於老人照護工作，對於傳統道德價值將產生衝擊。
如同全教授所說，在運用機器人的兩種照護模式下，第二種human-mediated robot care模式較為有效。因為第一種human-robotic care模式太過冰冷、沒有人情味。
而在人類照護工作中，「心理健康」及「社會功能」是非常重要的課題，但問題是，機器人無法偵測出人類不同的情緒，只會運用設計好的程式內容來反映。所以機器人所運用的並不是他們的專業來進行照護，而是設計者給予的設定。
究竟機器人能否依據不同情境所涉及的情緒，提供客製化照護？
舉例而言，若機器人被設定成，讓被照顧者吃藥是優先要務，然而，某天被照顧者心情極度憂鬱低落，明確表示其不願服藥，機器人會如何選擇？暫緩吃藥而先處理安撫其情緒，或是依照程式設定強迫其吃藥？我認為這是個大問題。
即便我們使用human-mediated robot care，仍有許多倫理挑戰需要處理，我的其中一個憂慮是，當我們試著以人類作為輔助，這些人類輔助者需要負擔什麼責任？我不太確定何者需要負責任。首先面臨到的問題是，此類複雜的程式設定，連人類輔助者都未必能了解，則是否需要黑盒子系統，來釐清風險與責任歸屬？或使機器人的程式編碼公開，讓大家都能瞭解其設定？另外，亦有自動化照護不夠客製化的問題。
A4：
我了解到當我們談及責任歸屬的問題時，會因為使用mediator這個詞而模糊了人類輔助者可能承擔的責任問題，因為字面上看起來他們只是在「輔助」這個互動，所以這個詞或許不是最適合的。
正如我的例子中的教師，他其實並沒有對情況完全的控制，因為他也只是被醫療中心雇用的。當想要釐清責任歸屬時，我們需要zoom out，思考誰是實際設計整個計畫的人，所以要從更系統性的方式來觀察，不能只檢視人類與機器人的互動這一小部分。
Q5：the nature of the challenge
無人機器人系統的技術性「極限」？長期以觀是可以被解決工程師的嗎？還是它們是更偏向根本性、社會學上或心理學上的問題？因為老人照護與「信任」息息相關，所以來自社會整體結構，與人類之間的溝通、相互理解的幫助顯得極其重要，在這樣的前提下，會面臨何種挑戰？
A5：
很多研究者會說他們可以或至少希望可以解決這些技術困難，但我不能代表它們發言，所以先不討論技術問題是否能被解決。
我認為一切取決於我們想要在老人與機器人之間建立何種關係，如果是如人類般的真實情感關係，則我們距離還很遠；但如果是有用的工具、幫助人類工作者照顧老人的功能的話，我們距離就不遠了，不難做。
Q6：
雖然第二種模式可行、效率高，但在全教授的許多案例中顯示，年輕人就是不願意前往鄉村，所以對這種缺乏人類輔助者的情況，該如何解決？可以解決到何種程度？
A6：
我們可以將照護程式設計得不一樣，將這樣的人類因素或人際關係納入考量。
舉例來說，我參與的另一個研究計畫「tele-medicine program」，是因為鄉村的醫生太少，老人、病人太多，故由護理師或社工帶平板電腦前往病人家中，讓病人透過平板電腦與遠在診所的醫生溝通、接受診療。但我不禁發現，在實際情況中，都是這些護理師或社工在做所有工作，而不是機器或醫師。例如社工在抵達病人家裡並開啟平板電腦後，為了等待仍在看診其他病人的醫師，社工必須與病人對坐陪伴聊天20分鐘，此時病人往往已經開始描述自己的病症，所以最了解他們身體情況的其實是這些社工。然而隨後的醫生看診可能3分鐘就結束了，造成該次醫療的實際工作都是這些社工在做。
因而我認為，如果從根本上更細心設計這個程式，讓這些護理師或社工可以直接攜帶醫療相關用品到病人家裡，或許還更直接、更有效。
Q7：
如若人類真的能夠建立與機器人的情感上連結，人類有無可能被其綁架，成為機器人的人質？例如沒有付錢給電信公司的話，明天就會產生生命危險之類的？
A7：
許多研究者希望能創造出人類與機器人之間的情感連結，讓兩者能真正理解並喜愛彼此，擁有親密關係。他們認為這些關係還很遙遠但至少是個努力方向，而且能夠達成。
我認為人類要喜歡上機器或物件不是很困難，因為我們已經有了(指大家現在對手機的依賴)，這與技術發展程度無關，重點應是取決於「何種情感上的關係是人類珍視、想要或需要的」。我最喜歡的例子是湯姆漢克斯的電影《浩劫重生》，由此可知在極端的情況下，人類甚至也能愛一顆躲避球(Wilson！)。然而，人類喜愛這些機器是一回事，相信這些機器會回報相同的情感卻是另一回事。前者很容易做到，但後者，毋寧是個危險的概念，這兩者之間有條非常細緻的界線值得討論。
Q8：
前面提到的機器人照護工具是給老人並藉以建立關係的，但是這些機器也不是直接發出後就可以使用個三四十年，它需要被維修、管理，要使用什麼樣的business model來進行？
A8：
我其實還沒想過租借的商業模式，但我覺得這是個很好的想法。因為如果使用定期租借模式，將會由人類管理者定期派員進行維修，於此同時，便可以在這個機器的周圍產生更多人與人之間的連結，會對照護工作非常有幫助。
我先前曾為研究所需購入了一台AI Speaker，但漸漸的大家對它失去興趣，只用它來聽音樂，所以如若有人定期前來管理，重新創造人們對這些機器的興趣，想必可以有效提升AI的使用效能。
台灣發展現況
簡要說明台灣的AI研究現況。現今幾乎所有研究都是科技部贊助的，所以我整理了科技部的數據來說明。過去幾年我們有將近兩百個由科技部贊助的AI研究計畫，其中如科學技術、智慧服務、智慧製造業、生物科技等科技類計畫占大多數，而人文社會科學類計畫卻僅有九項，另外也有一些政府的應用類計畫，可能是運用於提升其智慧化服務效能。除政府贊助之研究計畫外，我們也有如、AI TAIWAN at MOST Research Center、交大AI Research Lab、AI Biotech Research Center等許多AI研究中心，正在從事相關工作。
