雖然互聯(lián)網(wǎng)改變了孩子們學(xué)習(xí)性知識的方式，但關(guān)于性知識的教學(xué)仍然很糟糕。在性教育 2.0中，Mashable探討了性教育的現(xiàn)狀，暢想未來數(shù)字創(chuàng)新技術(shù)可以用來教授性知識，比如允許發(fā)生性行為，性積極，尊重和責(zé)任。    

然而，計(jì)算機(jī)算法導(dǎo)致像油管，臉書以及蘋果公司的iOS平臺軟件面臨一個(gè)共同的挑戰(zhàn)：它們似乎無法保持一貫的區(qū)分能力，區(qū)別色情以及性知識和生殖健康內(nèi)容。

這是因?yàn)?，設(shè)計(jì)用于防止“成人”信息出現(xiàn)在時(shí)間軸或搜索結(jié)果中彈出的代碼，也很容易屏蔽那些旨在為互聯(lián)網(wǎng)用戶提供有關(guān)性、性興趣和性健康的真實(shí)教育信息。

批評者認(rèn)為，計(jì)算機(jī)算法混淆成人信息和性教育內(nèi)容的情況可能反映了編程懶惰而又臭名昭著的技術(shù)多樣性問題。編寫代碼的工程師將裸露或色情內(nèi)容推向網(wǎng)絡(luò)的邊緣時(shí)，他們不了解、也不關(guān)心獲取性健康和生殖健康內(nèi)容的重要性，特別是對于少數(shù)青少年群體和其他歷史上被邊緣化的用戶，這樣的算法會阻礙信息的廣泛傳播。

批評者同時(shí)也認(rèn)為這個(gè)問題有直接的解決方案，但科技公司對解決他們的擔(dān)憂并不感興趣。    

網(wǎng)絡(luò)性健康公司O.school在10月份報(bào)道了蘋果公司的新軟件如何啟用家長控制設(shè)置的事件，這一報(bào)道不僅限制了其品牌網(wǎng)站的發(fā)展，還讓許多為青少年服務(wù)的娛樂網(wǎng)站和健康資源減少了。

雖然過濾器限制了像Teen Vogue和Scarleteen這樣的網(wǎng)站，但它并沒有拒絕用戶訪問新納粹（neo-Nazi）Daily Stormer或反同性戀Westboro Baptist Church等網(wǎng)站。

圖片來源：維基·列塔/ Mashable

對比令人震驚，也讓O.school的創(chuàng)始人安德里亞·芭里卡（Andrea Barrica）相信，蘋果公司的算法可能僅僅是屏蔽某些特定詞匯，如“青少年”、“大規(guī)?！边@樣的詞，以防止任何可能會向用戶發(fā)送禁止內(nèi)容的點(diǎn)擊（比如“青少年色情”）。至今為此芭里卡都無法證實(shí)或消除她的懷疑，或者從蘋果公司的算法中得悉什么。   

芭里卡通過自己的網(wǎng)絡(luò)與蘋果公司的員工聯(lián)系，希望能夠討論一下這種情況，但卻石沉大海。之后，她在博客上發(fā)表了一篇名為“審查和性教育”的文章，對蘋果公司提出了尖銳的問題：誰設(shè)計(jì)了過濾器？是否咨詢過父母群體？保守派和宗教團(tuán)體呢？醫(yī)生和性教育者？什么非色情網(wǎng)站被封鎖？不過，她從沒收到蘋果公司的任何回應(yīng)。蘋果公司也沒有向Mashable評論其算法或芭里卡的帖子做出任何回應(yīng)。

“網(wǎng)站平臺并沒有針對性教育提出解決措施，他們只是以最保守的方式編寫代碼來避免違反政策的問題，”芭里卡說，“蘋果對性信息的保守態(tài)度會帶來巨大的影響?！?/p>

芭里卡不是唯一一個(gè)給平臺寫公開信的人，且這個(gè)平臺還能控制她發(fā)的內(nèi)容是否能在網(wǎng)上看到。2017年5月，一位女性經(jīng)期跟蹤應(yīng)用Clue的作者，在博客中詳細(xì)介紹了臉書如何阻止該應(yīng)用的廣告提升其性和生殖健康內(nèi)容。以陰道，乳房和陰莖為特色的教育插圖被封鎖。關(guān)于內(nèi)衣，出生故事和青春期建議的推廣廣告也遭到屏蔽。   

Clue的一位代表表示，當(dāng)一個(gè)公司拒絕就此問題發(fā)表評論時(shí)，該公司是停滯不前的。臉書發(fā)言人表示，Clue的廣告違反了其廣告政策中對“成人內(nèi)容”的限制，其中包括禁止包含裸露的廣告或關(guān)注個(gè)人身體部位的圖片。臉書的廣告政策適用于全球，甚至比社區(qū)標(biāo)準(zhǔn)更嚴(yán)格。然而Clue仍舊能在Facebook上發(fā)布內(nèi)容并做廣告。   

AMAZE是一個(gè)針對青少年的性教育視頻系列，在油管上打廣告也遇到了類似的問題。自其渠道在近三年前推出以來，84個(gè)廣告中，有一些已被過濾了，因?yàn)檫@些廣告被視為“成人”內(nèi)容。而被過濾的視頻中包括關(guān)于女性和男性的生物解剖視頻。

“在油管上發(fā)布廣告對于我們在AMAZE的工作開展至關(guān)重要，因?yàn)樗屛覀兡軌蚋采w到全世界尋求性，心理健康等方面指導(dǎo)的年輕人，”AMAZE發(fā)言人林肯蒙迪（Lincoln Mondy）在電子郵件中說道。

雖然AMAZE沒有被視為成人內(nèi)容，但其視頻確實(shí)包括了對生殖器的準(zhǔn)確描述和性健康的討論。這種不加修飾的展示有時(shí)通過圖形表現(xiàn)，而這很可能會被計(jì)算機(jī)算法和審查員認(rèn)為違反了平臺政策中禁止宣傳“非家庭安全”的成人內(nèi)容的條例。油管拒絕評論為其算法提供信息的政策和做法。

科技公司可能會爭辯說，他們的算法實(shí)際上是通過標(biāo)記違反其政策的內(nèi)容來設(shè)計(jì)的。 但事實(shí)是，在教育目的下對乳房的良性說明令人反感的這一事實(shí)會引發(fā)更大的問題。   

工程師和科技公司面臨的部分挑戰(zhàn)是，現(xiàn)在為互聯(lián)網(wǎng)生產(chǎn)的性健康材料，通常沒有傳統(tǒng)上談?wù)撔杂嘘P(guān)的信息時(shí)那般避諱。這些新一代的內(nèi)容提出并回答了可能令人尷尬的問題，而非扮演那些使用模糊術(shù)語和說明的沉默的解釋器，解決了邊緣化讀者的各種擔(dān)憂，并且不避開使用生殖器的準(zhǔn)確描述，讓曾經(jīng)令人尷尬的談話聽起來有趣還受益匪淺。

因此，那些沒有關(guān)注這一趨勢，或者甚至沒有意識到這種趨勢的工程師，在編寫代碼過程中很可能會將敏感詞和圖片當(dāng)作涉及色情內(nèi)容的危險(xiǎn)內(nèi)容。

“其中一個(gè)動因是他們根本不考慮這種情況，”作為O.school的顧問軟件工程師兼企業(yè)家喬恩·平卡斯（Jon Pincus）說?！盁o論是懶惰還是過度簡化，我猜工程師們在過濾掉這些東西時(shí)，實(shí)際上并沒有試圖衡量自身是否允許合法‘性知識和生殖健康’的東西?！?/p>

平卡斯說，設(shè)計(jì)比現(xiàn)在表現(xiàn)更好的算法并不難。工程師和使用算法的公司可以將公平性，問責(zé)制和透明度作為指導(dǎo)原則，特別是因?yàn)樵诰€提供準(zhǔn)確的性信息是一個(gè)公共衛(wèi)生問題。

理想情況下，使用計(jì)算機(jī)學(xué)習(xí)算法的公司會用文字，圖片描述正當(dāng)?shù)膬尚孕畔?，用其可以接受的生殖健康信息，以及不能接受的成人?nèi)容或色情內(nèi)容，對員工進(jìn)行培訓(xùn)。

不止這種明智的做法，平卡斯認(rèn)為，技術(shù)公司可以邀請性和生殖健康專家提供有關(guān)如何設(shè)計(jì)算法的反饋，甚至雇用他們進(jìn)行咨詢。據(jù)他透露，工作人員中沒有相關(guān)主題的專家，這是行業(yè)中的普遍現(xiàn)象。  

AMAZE的曼迪同意這種做法?！皩ξ覀儊碚f，唯一的解決方案牽扯到技術(shù)巨頭和性健康專家的意向合作關(guān)系，他們什么時(shí)候能共同創(chuàng)建算法和內(nèi)容攔截器，”他說，“科技巨頭不是性健康專家，在涉及篩選在線信息時(shí)，不應(yīng)該對什么是'適合年齡’作出重要決定?！?nbsp;  

然而，這些科技公司不愿放棄這種權(quán)力，并讓外界對其產(chǎn)品施加影響。上周，Tumblr宣布將禁止成人內(nèi)容時(shí)，該公司的一位發(fā)言人拒絕解釋其算法和審核員將性知識與裸體或色情內(nèi)容區(qū)分開來的標(biāo)準(zhǔn)，而是指出“與健康有關(guān)的信息”仍然可以在平臺上搜尋得到。

雖然抗拒透明化讓硅谷的殘忍競爭合情合理，但芭里卡認(rèn)為科技公司沒有動機(jī)去編寫更加細(xì)致入微的算法來危及重要的廣告宣傳，或蘋果應(yīng)用商店中的任意軟件，雖然這樣細(xì)致的算法可以最大限度地獲取性知識和生殖健康信息，但很可能因?yàn)檫^于細(xì)致讓色情內(nèi)容有機(jī)可乘。

“真的太恐怖了，”她說?！斑@種做法可以追溯回人類對性缺乏包容性和多樣性，還會回到人類對性的羞恥感?！?/p>

“這個(gè)世界上有太多的力量來控制人們的所思所想了。”

譯文出處：

Mashable. Internet gatekeepers block sex ed content because algorithms think they're porn.

https:///article/sex-ed-blocked-porn-algorithms/#jVO94dXvEOqz.（2018-12-12）

翻譯 | 陳寶華

校對 | 郭慧

編輯 | 蔡雁紅