推薦內(nèi)容，為聊天機器人提供動力，買賣股票，檢測醫(yī)療狀況并駕駛汽車。這些只是人工智能最著名的應用中的一小部分，但是有一個盡管在AI的最近歷史中處于很大的邊緣，但現(xiàn)在正威脅著其顯著增長。這是AI對人進行分類和排名的能力，可以根據(jù)他們相對于某些特定目的是好是壞將他們分開。

目前，西方文明還沒有達到，其中基于人工智能的系統(tǒng)中使用的點集體根據(jù)我們是否很可能是“好”的員工，“優(yōu)質(zhì)”客戶，“好”的日期，“好，我們歸類公民。但是，所有可用指標都表明我們正在朝這個方向發(fā)展，這與西方國家是否有意識地決定構(gòu)建中國目前正在發(fā)展的社會信用體系無關。

這種風險在9月底突顯出來，當時出現(xiàn)了一種由AI技術(shù)驅(qū)動的系統(tǒng)首次被用于篩選英國的求職者。它是由總部位于美國的HireVue開發(fā)的，它利用機器學習來評估求職者的面部表情，語言和語調(diào)，這些求職者通過智能手機或筆記本電腦拍攝，并回答了一系列相同的面試問題。然后，HireVue的平臺通過比較從每個申請人的視頻中獲取的25,000條數(shù)據(jù)與從現(xiàn)有“模范”員工的訪談中收集的數(shù)據(jù)進行比較，從而篩選出“最佳”申請人。

毋庸置疑，隱私擁護者和學者并不特別喜歡HireVue的“招聘情報平臺”，該平臺在全球范圍內(nèi)每90天用于進行100萬次采訪和超過15萬次聘前評估。UCL的安娜·考克斯(Anna Cox)告訴《每日電訊報》：“這將有利于擅長視頻采訪的人，任何數(shù)據(jù)集都會有偏見，這將排除實際上本來會做得很好的人。”

HireVue的技術(shù)已經(jīng)存在，但有跡象表明，類似的系統(tǒng)可能最終會在其他領域和部門使用，從而可能產(chǎn)生有害影響。9月底，《天空新聞》(Sky News)報道說，英格蘭最大的學院鏈之一的Academies Enterprise Trust，已經(jīng)開始使用稱為AS Tracking的工具來監(jiān)視其150所學校學生的心理健康，該工具使用人工智能來預測自我傷害，飲食失調(diào)和藥物濫用。