合國教科文組織最近的一份報告顯示，大多數(shù)基于語音的對話代理人都是女性。在報告中，它概述了人工智能中的性別偏見(特別是聊天機器人)可能對社會造成的潛在有害影響。

但是，該報告主要關(guān)注基于語音的對話代理，而該分析不包括聊天機器人(即基于文本的對話代理)。實際上，大多數(shù)有關(guān)對話式AI中性別偏見的研究都只針對語音應(yīng)用。

聊天機器人還可以在設(shè)計中進行性別區(qū)分。

根據(jù)Investopedia的說法，“ Chatbot是chatterbot的縮寫，是一種人工智能功能(AI)，可以通過任何主要的消息傳遞應(yīng)用程序進行嵌入和使用。實現(xiàn)特定目標的最佳機會。”

在研究人員信息系統(tǒng)和市場營銷(IISM)的研究所發(fā)現(xiàn)，“針對不同性別的線索在聊天機器人的設(shè)計中常用，大多數(shù)聊天機器人是-或明或暗地-旨在傳達特定性別”。

研究人員繼續(xù)說：“更具體地說，大多數(shù)聊天機器人都有女性名字，看起來像女性的化身，被稱為女性聊天機器人。”

“女性”聊天機器人的突出之處鼓勵了對女性的刻板印象，這些女性既順從又順從。加州大學(xué)洛杉磯分校教授薩菲亞·諾布爾(Safiya Noble)在2018年表示，聊天機器人可以“充當強大的社交工具，并向人們(尤其是兒童)傳授女性，女孩和性別女性的角色，以響應(yīng)需求”。

一家著名的數(shù)字支持和開發(fā)公司BitCot的首席執(zhí)行官Raj Sanghvi認為，對于開發(fā)人員而言，創(chuàng)建更多不分性別的虛擬助手(不通過新技術(shù)加劇性別偏見)很重要。

Sanghvi說：“精心設(shè)計的富有同情心的聊天機器人可以激發(fā)一段精彩的對話，并有助于解決和簡化一些溝通難題。”

“了解您要解決的問題并定義參數(shù)，問題，語言選擇，上下文非常重要。聊天機器人可以將客戶體驗提升到一個新的水平。”

當被問及使用聊天機器人最有趣的方面是什么時，Sanghvi回答說：“在使用聊天機器人時，不能躲在屏幕或用戶界面后面，這是好是壞。因此，用戶體驗完全取決于機器人的上下文，語言和智能，以幫助解決問題，并且隨著機器人了解更多有關(guān)客戶的信息，機器人的發(fā)展是一個持續(xù)的過程。”

我們與之對話的另一位專家，TextChat.com的創(chuàng)始人Eric Kades對聊天機器人的有趣方面有另一種看法：

“對于聊天機器人，我發(fā)現(xiàn)最有趣的是了解每個會話界面的設(shè)計如何對人們的生活產(chǎn)生積極或消極的影響。為客戶成功找到正確的公式的過程總是充滿挑戰(zhàn)，樂趣和對我的回報。”

作為人工智能解決方案的先驅(qū)，TextChat與UCLA一起在2017年建立了他們的第一個自定義聊天機器人，該機器人幫助低社會經(jīng)濟學(xué)生度過了財務(wù)援助流程，并顯著降低了輟學(xué)率。

另一位被選為該作品的專家是Molly Duggan，Molly Duggan Associates的首席創(chuàng)意官兼首席執(zhí)行官，Molly Duggan Associates是一家屢獲殊榮的創(chuàng)意技術(shù)機構(gòu)，位于舊金山。Duggan的項目包括世界各地一些最重要的科學(xué)，技術(shù)，航空航天，環(huán)境，高等教育，醫(yī)療保健和娛樂營銷計劃。

Duggan的代理為客戶創(chuàng)建了聊天機器人，從而為對話帶來了必要的視角，該聊天機器人體現(xiàn)了解決軟件開發(fā)中性別問題的理想方式。

“大約八年前，我們開始研究使用AI分析社交媒體中的語氣和情感，” Duggan說。“這很重要，因為這可以通過在線視角大規(guī)模揭示人們對您品牌的感覺。”

Duggan在2018年開始與AI或虛擬助手合作，并創(chuàng)建了一個名為Conversation Orchestrator的服務(wù)產(chǎn)品-次年(2019)，當年成為解決方案合作伙伴后，他們獲得了Drift在Conversational Marketing領(lǐng)域的杰出貢獻。

Duggan認為，關(guān)于虛擬助手空間的最令人興奮的事情是，將人類行為映射到腳本化對話中，從而為我們的客戶提供結(jié)果。

“您會認為人們寧愿與人類交談，”杜根說。相反，杜根發(fā)現(xiàn)，當銷售人員試圖與“嗨!我是山姆 讓我知道，如果您有任何疑問，或者可以致電給我...”，對話從未發(fā)生過。

但是，假設(shè)某個品牌提示訪問者有關(guān)某個特定痛點的問題，該痛點由他們所在頁面上的上下文收集而來。在這種情況下，客戶通常會像調(diào)查表一樣回答或確認“是的，我確實有此問題”。

“一旦發(fā)生，” Duggan說，“對話腳本開始，如果我們正確地完成工作，我們可以引導(dǎo)客戶了解他們的需求，并在他們的整個旅程中對其進行教育。我們的目標是幫助他們獲得所需的東西，同時創(chuàng)造愉快的體驗。”

但是，如果操作不正確，這樣做的效果可能會很差。Kades說：“如果聊天機器人使用自然語言處理(NLP)和機器學(xué)習(xí)技術(shù)，并且不斷重復(fù)回答一個簡單的問題，那么該聊天機器人就會讓客戶陷入我所說的'錯誤的地獄'。”

TextChat是市場上唯一允許企業(yè)所有者通過短信實時接管來自聊天機器人的對話的聊天機器人平臺，這已證明可以大大提高銷售轉(zhuǎn)化率。

Kades繼續(xù)說道：“讓我感到沮喪的是，聊天機器人獲得了他們的惡名，因為技術(shù)公司出售其聊天機器人平臺是為了消除人與人之間的互動并節(jié)省資金。這會導(dǎo)致聊天機器人產(chǎn)生偏見，減慢聊天機器人的采用速度，并導(dǎo)致人們浪費大量時間來構(gòu)建“通往無處可去的道路”的聊天機器人。”

Sanghvi認為，聊天機器人的語言同情心(或缺乏語言同情心)決定了它們成功的可能性。

“計算機科學(xué)和工程學(xué)的多樣性以及幫助創(chuàng)建數(shù)據(jù)以及語言中的上下文和同情心的數(shù)據(jù)分析人員，將有助于減少偏見，但這將是一個長期的工作課題。”

Sanghvi是女企業(yè)家及其創(chuàng)新的著名支持者，他說，關(guān)于性別的討論對于創(chuàng)建對社會有益的AI至關(guān)重要。

Sanghvi說：“盡管不到十年，但現(xiàn)代聊天助手由于受到消費者的廣泛歡迎以及社會傾向于通過分配性別對這些對象進行擬人化而需要進行特別的審查。”

“將性別應(yīng)用到強化刻板印象的機器人程序中是有問題的，因此我們不采用這種方法，” Duggan說。

“我們?yōu)榉嵌M制的機器人程序編寫腳本，并且我們的腳本化對話沒有特定性別。我們用品牌的部分名稱來命名我們的機器人(例如，針對GaggleAMP的Gagglebot或針對ClearSale的Clearbot。)”

另一方面，作為創(chuàng)意技術(shù)局(Creative Technology Agency)的首席執(zhí)行官，杜根(Duggan)了解以我們?yōu)榛A(chǔ)的AI人性化的全行業(yè)準則以及性別平等對我們與之互動的技術(shù)(例如智能虛擬助手)的重要性?？坍?。

“我認為，應(yīng)自覺地將性別應(yīng)用于智能虛擬助手。Duggan說：“在某些情況下，性別對于智能虛擬助手至關(guān)重要，例如處理身體或心理健康問題。在這種情況下，與與自己的性別認同相似的人進行交談可能會使人感到更自在。”

Molly Duggan Associates與正在處理一些世界上最具挑戰(zhàn)性問題的組織合作，與約翰·霍普金斯大學(xué)，伯克利實驗室，UCLA和UCSF等組織的有遠見的人合作。

高等教育是一個環(huán)境，在這個環(huán)境中，包容意識至關(guān)重要，這些高等教育的客戶積極主動地解決性別偏見。

Duggan闡述道：“作為潛在的訪客第一品牌接觸點，它可以設(shè)定體驗的基調(diào)。應(yīng)該考慮對所有偏見，經(jīng)濟，語言，教育，種族采取有意識的方法。”

那么如何解決聊天機器人中的性別偏見呢?一個好的第一步是更周到的聊天機器人設(shè)計。Kades說：“通過周到的聊天機器人設(shè)計，聊天機器人將極大地推動電子商務(wù)業(yè)務(wù)的銷售和客戶滿意度。”

他繼續(xù)說：“應(yīng)該更多地關(guān)注以客戶成功為目標的聊天機器人的設(shè)計，而不僅僅是解決業(yè)務(wù)問題或削減成本。我認為軟件設(shè)計師經(jīng)常忘記聊天機器人正在與真正的人進行交流，而他們實際上對制作一個機器人感到焦慮。購買決定或需要解決自己的個人問題。”

Duggan在這次對話中補充說：“我們的工作是專注于每個訪客的痛點，并提供富有同情心和好玩而又不偏any任何性別的對話解決方案。”

當然，問題的很大一部分，因此解決方案是數(shù)據(jù)。

首先，所有機器人都接受了實際數(shù)據(jù)的培訓(xùn)。通過構(gòu)建ML模型和工具的組合，開發(fā)人員可以將客戶提出的問題和答案與最合適的答案相匹配。

機器人使用模式匹配對文本進行分類，并為客戶提供適當?shù)捻憫?yīng)。這些模式的標準結(jié)構(gòu)是“人工智能標記語言”或AIML。” Sanghvi說。

一旦聊天機器人準備就緒并可以與客戶進行實時交互，就可以實現(xiàn)智能反饋循環(huán)。在交談中，當客戶提出問題時，聊天機器人會通過提供諸如“您指的是a，b還是c”之類的不同選項，巧妙地為他們提供了幾個答案。

這樣，客戶自己可以將問題與實際可能的意圖相匹配，并且該信息可以用于重新訓(xùn)練機器學(xué)習(xí)模型，從而提高了聊天機器人的準確性。

為了減少該技術(shù)中的偏差，必須密切注意漫游器兩側(cè)的數(shù)據(jù)。Sanghvi說：“人們寫機器人，人們也使用它們，所以偏見源于這兩個方面。”

Sanghvi重要地指出：“作為源內(nèi)容的NLP層和知識庫，如果普遍存在偏見，則聊天機器人將繼續(xù)顯示該行為。有多種方法可以通過允許使用審閱系統(tǒng)并將其并入流程中，以及提高源數(shù)據(jù)的質(zhì)量來減少偏差。”

關(guān)鍵是讓數(shù)據(jù)科學(xué)家參與進來，以減輕風險，并投資于研究和多學(xué)科開發(fā)團隊，其中包括心理學(xué)家和語言學(xué)家等。

為了解決AI機器人中的性別刻畫，開發(fā)人員必須專注于使其工程團隊多樣化。學(xué)校和政府必須消除代表人數(shù)不足的群體進行STEM教育的障礙;必須制定AI機器人性別的全行業(yè)標準; 科技公司必須提高透明度。莫莉·杜根(Molly Duggan Associates)就是一個很好的例子。

Duggan說：“我們努力創(chuàng)造一種富有同情心的自動化體驗，以使需要回答問題或需要知道有適合他們的解決方案的訪問者感到愉悅。” “我們的首要目標是使更高的ed易于使用。而且，要做到這一點，我們必須見到學(xué)生所在的地方。”

她總結(jié)說：“減少聊天機器人的偏見是朝著為所有人創(chuàng)造安全，包容的教育環(huán)境的又一步。最重要的是，光彩不分性別。”