2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
"2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
"2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
演講實錄
AI發展到目前，一共經歷了三代。第一代AI是知識驅動型的AI，例如專家系統，它的特點是從宏觀層面模擬人的行為，它能解決的問題規模很有限。
第二代AI是數據驅動型的AI。例如深度神經網絡技術，能夠基於大量數據尋找其中規則，但依賴於大量高質量數據。以深度神經網絡技術為代表的第二代AI技術也存在重大缺陷：不可靠，不安全，不可解釋。
不可靠：由於AI識別或預測算法出錯，特斯拉、Uber、Waymo等自動駕駛系統出現多次事故；
不安全：通過生成對抗式圖像，能夠欺騙智能監測系統，使AI系統識別錯誤；
不可解釋：沒有決策依據，當算法給出的結果不是100%準確，則此結果人類難以信任和採用，如醫療等高價值決策領域無法很好應用。
第三代人工智能，最早由清華大學提出，張鈸院士指出現行的AI算法無法處理以下“五性”中的任何一種場景：數據或知識缺乏，非完全信息，不確定性，動態，開放域及多任務。而第三代人工智能則是要突破當前AI算法的困境，使之能夠在更廣泛的領域得到應用。第三代人工智能主要有以下特點：
可靠性（樣本不足。噪聲高標註差情況下實現預測效果可提升）;
可解釋性（一定程度上提供白盒化預測結果和可理解決策依據）;
安全性（算法受到惡意攻擊和數據缺陷情況下給出可靠的預測結果）。
2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
演講實錄
AI發展到目前，一共經歷了三代。第一代AI是知識驅動型的AI，例如專家系統，它的特點是從宏觀層面模擬人的行為，它能解決的問題規模很有限。
第二代AI是數據驅動型的AI。例如深度神經網絡技術，能夠基於大量數據尋找其中規則，但依賴於大量高質量數據。以深度神經網絡技術為代表的第二代AI技術也存在重大缺陷：不可靠，不安全，不可解釋。
不可靠：由於AI識別或預測算法出錯，特斯拉、Uber、Waymo等自動駕駛系統出現多次事故；
不安全：通過生成對抗式圖像，能夠欺騙智能監測系統，使AI系統識別錯誤；
不可解釋：沒有決策依據，當算法給出的結果不是100%準確，則此結果人類難以信任和採用，如醫療等高價值決策領域無法很好應用。
第三代人工智能，最早由清華大學提出，張鈸院士指出現行的AI算法無法處理以下“五性”中的任何一種場景：數據或知識缺乏，非完全信息，不確定性，動態，開放域及多任務。而第三代人工智能則是要突破當前AI算法的困境，使之能夠在更廣泛的領域得到應用。第三代人工智能主要有以下特點：
可靠性（樣本不足。噪聲高標註差情況下實現預測效果可提升）;
可解釋性（一定程度上提供白盒化預測結果和可理解決策依據）;
安全性（算法受到惡意攻擊和數據缺陷情況下給出可靠的預測結果）。
實現第三代人工智能有多種不同渠道，我們的核心技術包括貝葉斯深度生成式模型，貝葉斯神經網絡和AI攻防技術。RealAI公司18年孵化自清華大學人工智能研究院，是國內首家致力於第三代人工智能技術研究和應用推廣的公司，由張鈸院士和朱軍教授共同擔任首席科學家。
RealAI希望把第三代人工智能，特別是貝葉斯深度學習技術平臺化，讓第三代人工智能技術能夠在具體的應用場景中更快地部署。在我們已實現的案例中，第三代AI主要能夠為工業和金融領域提供無監督學習，可解釋學習及小樣本機器學習能力。
無監督學習方面，在工業場景，可通過無監督學習實現缺陷檢測和設備預測性維護。金融領域，也有無監督的行為反欺詐及團伙欺詐的檢測。
可解釋性方面，給出預測結果的同時，能夠提供決策依據，讓人們可以更好地進行決策。如工業領域的設備安全評估方面，要給出安全故障的原因，及隱患位置，才有實際的應用價值。金融領域也可用於個人企業徵信及智能投顧場景。
小樣本學習方面，貝葉斯深度學習應用在圖像的檢測場景上，在典型應用中只需現行的1/20的數據即可取得相似效果。金融風控場景中，可實現對壞客戶的冷啟動精準排序及預警。
總體而言，第三代AI的應用價值在於，可用於小樣本及少標註等傳統機器學習很難解決的場景。對傳統能解決的場景，也能提供更準確的預測結果及判斷依據。更細節的應用在工業領域體現在異常檢測，工藝優化，預測性維護。工業視覺檢測中，能夠解決樣本少標籤困難的問題。通過使用小樣本半監督或無監督算法從數據中找出有可疑區域，並給出不確定度分析，進而篩選出可疑區域和需要標註區域，交給專家進行標註，返回來優化模型，通過此方法降低樣本需求量和標註依賴程度。進一步結合模型與後處理規則，能夠滿足個性化的需求，形成可以產前部署的產品。以光伏EL檢測為例，通過算法對十幾種不同缺陷進行檢測，漏檢率和誤檢率均低於人工。在油氣管道缺陷檢測中，用變分自編碼器的方法進行異常檢測，檢測效果也接近人工。在時序分析領域，如在大壩結構安全的場景，通過貝葉斯神經網絡可實現數據補全，實現相似的安全性評估及對不確定度的分析。
第三代AI技術，尤其是貝葉斯深度學習，無監督、半監督和小樣本學習技術在金融領域也有很好的應用，如風控冷啟動，大小額遷移，拒絕客戶回撈，模型無偏糾正，可解釋推斷等。例如，用無監督學習技術分析某銀行的28萬條信用卡可疑交易數據，綜合準確率高於90%。在有監督學習場景，如信用卡貸後行為分析，通過貝葉斯深度學習方法，找出的100條最高危的數據中，實際的壞客戶率高達90%，一般的深度學習只能做到15%；1000條時仍能做到61.8%，而深度學習只有13.4%。
不同的人需要不同的可解釋性方案，我們在嘗試過程中積累了多種不同的可解釋性模型和可解釋性方案，例如模型級、實例級可解釋，實現千人千面可解釋效果。
AI安全問題已引起全社會廣泛關注。目前AI算法的主要風險在於，通過對抗樣本攻擊，可以讓算法做出錯誤判斷。DeepFake做人臉造假幾乎以假亂真，而用現行最先進的人臉識別技術判斷的失敗率高達95%。為了抵禦對抗樣本的攻擊，我們的方法有數據清洗，數據過濾及直接將預測模型本身進行升級，提升對噪聲的抗干擾能力。目前RealAI通過多種技術手段，在三方面都取得了進展：
在攻擊場景上，AI攻擊分為白盒攻擊和黑盒攻擊。白盒攻擊已實現近100%的成功率。黑盒攻擊在很多場景也取得成功。
在攻擊目標上，可分為有目標攻擊和無目標攻擊。無目標攻擊可以讓當前的AI識別算法出錯，導致誤識別或無法識別。有目標攻擊則更進一步，通過算法可以將攻擊者識別為特定目標，達到偽裝的效果。
從應用場景分，還可分為數字攻擊和物理攻擊。數字攻擊方面，可以做到類似DeepFake換臉、假視頻的效果。物理攻擊方面，在人臉識別領域，可以攻破商用手機人臉解鎖。當前的AI算法通過檢測對比解鎖者與手機機主人臉的相似度，如果相似度低於給定閾值，則認為當前解鎖者並非手機的機主。但通過我們的算法生成特定圖案，打印出來貼在眼鏡上，就能夠誤導AI識別算法，從而成功解鎖手機。
我們做AI安全方面的研究，主要目的是防禦以上攻擊，避免因為AI技術濫用導致的安全問題。通過我們的安全檢測系統，能夠識別出惡意攻擊，從而實現對系統的保護。以人臉解鎖為例，對於未佩戴眼鏡的人，算法可識別為正常，若加了眼鏡，AI防火牆會識別出是惡意攻擊者，並拒絕訪問。基於相關的AI安全攻防技術，我們在今年5月初已發佈RealSafe對抗攻防平臺，其中的算法在世界級大賽中取得過多項世界第一。針對人們的學習需求，我們也做了RealSafe安全演練平臺，包括深度學習，白盒攻擊，初級防禦，黑盒攻擊，高級防禦，對抗演練等。
"2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
演講實錄
AI發展到目前，一共經歷了三代。第一代AI是知識驅動型的AI，例如專家系統，它的特點是從宏觀層面模擬人的行為，它能解決的問題規模很有限。
第二代AI是數據驅動型的AI。例如深度神經網絡技術，能夠基於大量數據尋找其中規則，但依賴於大量高質量數據。以深度神經網絡技術為代表的第二代AI技術也存在重大缺陷：不可靠，不安全，不可解釋。
不可靠：由於AI識別或預測算法出錯，特斯拉、Uber、Waymo等自動駕駛系統出現多次事故；
不安全：通過生成對抗式圖像，能夠欺騙智能監測系統，使AI系統識別錯誤；
不可解釋：沒有決策依據，當算法給出的結果不是100%準確，則此結果人類難以信任和採用，如醫療等高價值決策領域無法很好應用。
第三代人工智能，最早由清華大學提出，張鈸院士指出現行的AI算法無法處理以下“五性”中的任何一種場景：數據或知識缺乏，非完全信息，不確定性，動態，開放域及多任務。而第三代人工智能則是要突破當前AI算法的困境，使之能夠在更廣泛的領域得到應用。第三代人工智能主要有以下特點：
可靠性（樣本不足。噪聲高標註差情況下實現預測效果可提升）;
可解釋性（一定程度上提供白盒化預測結果和可理解決策依據）;
安全性（算法受到惡意攻擊和數據缺陷情況下給出可靠的預測結果）。
實現第三代人工智能有多種不同渠道，我們的核心技術包括貝葉斯深度生成式模型，貝葉斯神經網絡和AI攻防技術。RealAI公司18年孵化自清華大學人工智能研究院，是國內首家致力於第三代人工智能技術研究和應用推廣的公司，由張鈸院士和朱軍教授共同擔任首席科學家。
RealAI希望把第三代人工智能，特別是貝葉斯深度學習技術平臺化，讓第三代人工智能技術能夠在具體的應用場景中更快地部署。在我們已實現的案例中，第三代AI主要能夠為工業和金融領域提供無監督學習，可解釋學習及小樣本機器學習能力。
無監督學習方面，在工業場景，可通過無監督學習實現缺陷檢測和設備預測性維護。金融領域，也有無監督的行為反欺詐及團伙欺詐的檢測。
可解釋性方面，給出預測結果的同時，能夠提供決策依據，讓人們可以更好地進行決策。如工業領域的設備安全評估方面，要給出安全故障的原因，及隱患位置，才有實際的應用價值。金融領域也可用於個人企業徵信及智能投顧場景。
小樣本學習方面，貝葉斯深度學習應用在圖像的檢測場景上，在典型應用中只需現行的1/20的數據即可取得相似效果。金融風控場景中，可實現對壞客戶的冷啟動精準排序及預警。
總體而言，第三代AI的應用價值在於，可用於小樣本及少標註等傳統機器學習很難解決的場景。對傳統能解決的場景，也能提供更準確的預測結果及判斷依據。更細節的應用在工業領域體現在異常檢測，工藝優化，預測性維護。工業視覺檢測中，能夠解決樣本少標籤困難的問題。通過使用小樣本半監督或無監督算法從數據中找出有可疑區域，並給出不確定度分析，進而篩選出可疑區域和需要標註區域，交給專家進行標註，返回來優化模型，通過此方法降低樣本需求量和標註依賴程度。進一步結合模型與後處理規則，能夠滿足個性化的需求，形成可以產前部署的產品。以光伏EL檢測為例，通過算法對十幾種不同缺陷進行檢測，漏檢率和誤檢率均低於人工。在油氣管道缺陷檢測中，用變分自編碼器的方法進行異常檢測，檢測效果也接近人工。在時序分析領域，如在大壩結構安全的場景，通過貝葉斯神經網絡可實現數據補全，實現相似的安全性評估及對不確定度的分析。
第三代AI技術，尤其是貝葉斯深度學習，無監督、半監督和小樣本學習技術在金融領域也有很好的應用，如風控冷啟動，大小額遷移，拒絕客戶回撈，模型無偏糾正，可解釋推斷等。例如，用無監督學習技術分析某銀行的28萬條信用卡可疑交易數據，綜合準確率高於90%。在有監督學習場景，如信用卡貸後行為分析，通過貝葉斯深度學習方法，找出的100條最高危的數據中，實際的壞客戶率高達90%，一般的深度學習只能做到15%；1000條時仍能做到61.8%，而深度學習只有13.4%。
不同的人需要不同的可解釋性方案，我們在嘗試過程中積累了多種不同的可解釋性模型和可解釋性方案，例如模型級、實例級可解釋，實現千人千面可解釋效果。
AI安全問題已引起全社會廣泛關注。目前AI算法的主要風險在於，通過對抗樣本攻擊，可以讓算法做出錯誤判斷。DeepFake做人臉造假幾乎以假亂真，而用現行最先進的人臉識別技術判斷的失敗率高達95%。為了抵禦對抗樣本的攻擊，我們的方法有數據清洗，數據過濾及直接將預測模型本身進行升級，提升對噪聲的抗干擾能力。目前RealAI通過多種技術手段，在三方面都取得了進展：
在攻擊場景上，AI攻擊分為白盒攻擊和黑盒攻擊。白盒攻擊已實現近100%的成功率。黑盒攻擊在很多場景也取得成功。
在攻擊目標上，可分為有目標攻擊和無目標攻擊。無目標攻擊可以讓當前的AI識別算法出錯，導致誤識別或無法識別。有目標攻擊則更進一步，通過算法可以將攻擊者識別為特定目標，達到偽裝的效果。
從應用場景分，還可分為數字攻擊和物理攻擊。數字攻擊方面，可以做到類似DeepFake換臉、假視頻的效果。物理攻擊方面，在人臉識別領域，可以攻破商用手機人臉解鎖。當前的AI算法通過檢測對比解鎖者與手機機主人臉的相似度，如果相似度低於給定閾值，則認為當前解鎖者並非手機的機主。但通過我們的算法生成特定圖案，打印出來貼在眼鏡上，就能夠誤導AI識別算法，從而成功解鎖手機。
我們做AI安全方面的研究，主要目的是防禦以上攻擊，避免因為AI技術濫用導致的安全問題。通過我們的安全檢測系統，能夠識別出惡意攻擊，從而實現對系統的保護。以人臉解鎖為例，對於未佩戴眼鏡的人，算法可識別為正常，若加了眼鏡，AI防火牆會識別出是惡意攻擊者，並拒絕訪問。基於相關的AI安全攻防技術，我們在今年5月初已發佈RealSafe對抗攻防平臺，其中的算法在世界級大賽中取得過多項世界第一。針對人們的學習需求，我們也做了RealSafe安全演練平臺，包括深度學習，白盒攻擊，初級防禦，黑盒攻擊，高級防禦，對抗演練等。
本篇報告的核心觀點：
1.深度神經網絡技術不完美，存在很多缺陷。
2.我們用的貝葉斯深度學習技術，也就是第三代人工智能技術，能夠使AI更可靠，可解釋，安全。
3.第三代人工智能可為應用帶來巨大的價值。
謝謝大家！
免責聲明
《證券期貨投資者適當性管理辦法》於2017年7月1日起正式實施。通過微信形式製作的本資料僅面向國泰君安證券客戶中的專業投資者。請勿對本資料進行任何形式的轉發。若您非國泰君安證券客戶中的專業投資者，為保證服務質量、控制投資風險，請取消關注，請勿訂閱、接受或使用本資料中的任何信息。因本訂閱號難以設置訪問權限，若給您造成不便，煩請諒解！感謝您給予的理解和配合。
本訂閱號不是國泰君安產業研究中心研究報告的發佈平臺。本訂閱號所載的信息僅面向專業投資機構，僅供在新媒體背景下研究觀點的及時交流。本訂閱號所載的信息均摘編自國泰君安證券研究所已經發布的研究報告或者系對已發佈報告的後續解讀，若因對報告的摘編而產生歧義，應以報告發布當日的完整內容為準。本資料僅代表報告發布當日的判斷，相關的分析意見及推測可在不發出通知的情形下做出更改，讀者參考時還須及時跟蹤後續最新的研究進展。
本資料不構成對具體證券在具體價位、具體時點、具體市場表現的判斷或投資建議，不能夠等同於指導具體投資的操作性意見，普通的個人投資者若使用本資料，有可能會因缺乏解讀服務而對報告中的關鍵假設、評級、目標價等內容產生理解上的歧義，進而造成投資損失。因此個人投資者還須尋求專業投資顧問的指導。本資料僅供參考之用，接收人不應單純依靠本資料的信息而取代自身的獨立判斷，應自主作出投資決策並自行承擔投資風險。
版權所有，未經許可禁止轉載或傳播。
"2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
演講實錄
AI發展到目前，一共經歷了三代。第一代AI是知識驅動型的AI，例如專家系統，它的特點是從宏觀層面模擬人的行為，它能解決的問題規模很有限。
第二代AI是數據驅動型的AI。例如深度神經網絡技術，能夠基於大量數據尋找其中規則，但依賴於大量高質量數據。以深度神經網絡技術為代表的第二代AI技術也存在重大缺陷：不可靠，不安全，不可解釋。
不可靠：由於AI識別或預測算法出錯，特斯拉、Uber、Waymo等自動駕駛系統出現多次事故；
不安全：通過生成對抗式圖像，能夠欺騙智能監測系統，使AI系統識別錯誤；
不可解釋：沒有決策依據，當算法給出的結果不是100%準確，則此結果人類難以信任和採用，如醫療等高價值決策領域無法很好應用。
第三代人工智能，最早由清華大學提出，張鈸院士指出現行的AI算法無法處理以下“五性”中的任何一種場景：數據或知識缺乏，非完全信息，不確定性，動態，開放域及多任務。而第三代人工智能則是要突破當前AI算法的困境，使之能夠在更廣泛的領域得到應用。第三代人工智能主要有以下特點：
可靠性（樣本不足。噪聲高標註差情況下實現預測效果可提升）;
可解釋性（一定程度上提供白盒化預測結果和可理解決策依據）;
安全性（算法受到惡意攻擊和數據缺陷情況下給出可靠的預測結果）。
實現第三代人工智能有多種不同渠道，我們的核心技術包括貝葉斯深度生成式模型，貝葉斯神經網絡和AI攻防技術。RealAI公司18年孵化自清華大學人工智能研究院，是國內首家致力於第三代人工智能技術研究和應用推廣的公司，由張鈸院士和朱軍教授共同擔任首席科學家。
RealAI希望把第三代人工智能，特別是貝葉斯深度學習技術平臺化，讓第三代人工智能技術能夠在具體的應用場景中更快地部署。在我們已實現的案例中，第三代AI主要能夠為工業和金融領域提供無監督學習，可解釋學習及小樣本機器學習能力。
無監督學習方面，在工業場景，可通過無監督學習實現缺陷檢測和設備預測性維護。金融領域，也有無監督的行為反欺詐及團伙欺詐的檢測。
可解釋性方面，給出預測結果的同時，能夠提供決策依據，讓人們可以更好地進行決策。如工業領域的設備安全評估方面，要給出安全故障的原因，及隱患位置，才有實際的應用價值。金融領域也可用於個人企業徵信及智能投顧場景。
小樣本學習方面，貝葉斯深度學習應用在圖像的檢測場景上，在典型應用中只需現行的1/20的數據即可取得相似效果。金融風控場景中，可實現對壞客戶的冷啟動精準排序及預警。
總體而言，第三代AI的應用價值在於，可用於小樣本及少標註等傳統機器學習很難解決的場景。對傳統能解決的場景，也能提供更準確的預測結果及判斷依據。更細節的應用在工業領域體現在異常檢測，工藝優化，預測性維護。工業視覺檢測中，能夠解決樣本少標籤困難的問題。通過使用小樣本半監督或無監督算法從數據中找出有可疑區域，並給出不確定度分析，進而篩選出可疑區域和需要標註區域，交給專家進行標註，返回來優化模型，通過此方法降低樣本需求量和標註依賴程度。進一步結合模型與後處理規則，能夠滿足個性化的需求，形成可以產前部署的產品。以光伏EL檢測為例，通過算法對十幾種不同缺陷進行檢測，漏檢率和誤檢率均低於人工。在油氣管道缺陷檢測中，用變分自編碼器的方法進行異常檢測，檢測效果也接近人工。在時序分析領域，如在大壩結構安全的場景，通過貝葉斯神經網絡可實現數據補全，實現相似的安全性評估及對不確定度的分析。
第三代AI技術，尤其是貝葉斯深度學習，無監督、半監督和小樣本學習技術在金融領域也有很好的應用，如風控冷啟動，大小額遷移，拒絕客戶回撈，模型無偏糾正，可解釋推斷等。例如，用無監督學習技術分析某銀行的28萬條信用卡可疑交易數據，綜合準確率高於90%。在有監督學習場景，如信用卡貸後行為分析，通過貝葉斯深度學習方法，找出的100條最高危的數據中，實際的壞客戶率高達90%，一般的深度學習只能做到15%；1000條時仍能做到61.8%，而深度學習只有13.4%。
不同的人需要不同的可解釋性方案，我們在嘗試過程中積累了多種不同的可解釋性模型和可解釋性方案，例如模型級、實例級可解釋，實現千人千面可解釋效果。
AI安全問題已引起全社會廣泛關注。目前AI算法的主要風險在於，通過對抗樣本攻擊，可以讓算法做出錯誤判斷。DeepFake做人臉造假幾乎以假亂真，而用現行最先進的人臉識別技術判斷的失敗率高達95%。為了抵禦對抗樣本的攻擊，我們的方法有數據清洗，數據過濾及直接將預測模型本身進行升級，提升對噪聲的抗干擾能力。目前RealAI通過多種技術手段，在三方面都取得了進展：
在攻擊場景上，AI攻擊分為白盒攻擊和黑盒攻擊。白盒攻擊已實現近100%的成功率。黑盒攻擊在很多場景也取得成功。
在攻擊目標上，可分為有目標攻擊和無目標攻擊。無目標攻擊可以讓當前的AI識別算法出錯，導致誤識別或無法識別。有目標攻擊則更進一步，通過算法可以將攻擊者識別為特定目標，達到偽裝的效果。
從應用場景分，還可分為數字攻擊和物理攻擊。數字攻擊方面，可以做到類似DeepFake換臉、假視頻的效果。物理攻擊方面，在人臉識別領域，可以攻破商用手機人臉解鎖。當前的AI算法通過檢測對比解鎖者與手機機主人臉的相似度，如果相似度低於給定閾值，則認為當前解鎖者並非手機的機主。但通過我們的算法生成特定圖案，打印出來貼在眼鏡上，就能夠誤導AI識別算法，從而成功解鎖手機。
我們做AI安全方面的研究，主要目的是防禦以上攻擊，避免因為AI技術濫用導致的安全問題。通過我們的安全檢測系統，能夠識別出惡意攻擊，從而實現對系統的保護。以人臉解鎖為例，對於未佩戴眼鏡的人，算法可識別為正常，若加了眼鏡，AI防火牆會識別出是惡意攻擊者，並拒絕訪問。基於相關的AI安全攻防技術，我們在今年5月初已發佈RealSafe對抗攻防平臺，其中的算法在世界級大賽中取得過多項世界第一。針對人們的學習需求，我們也做了RealSafe安全演練平臺，包括深度學習，白盒攻擊，初級防禦，黑盒攻擊，高級防禦，對抗演練等。
本篇報告的核心觀點：
1.深度神經網絡技術不完美，存在很多缺陷。
2.我們用的貝葉斯深度學習技術，也就是第三代人工智能技術，能夠使AI更可靠，可解釋，安全。
3.第三代人工智能可為應用帶來巨大的價值。
謝謝大家！
免責聲明
《證券期貨投資者適當性管理辦法》於2017年7月1日起正式實施。通過微信形式製作的本資料僅面向國泰君安證券客戶中的專業投資者。請勿對本資料進行任何形式的轉發。若您非國泰君安證券客戶中的專業投資者，為保證服務質量、控制投資風險，請取消關注，請勿訂閱、接受或使用本資料中的任何信息。因本訂閱號難以設置訪問權限，若給您造成不便，煩請諒解！感謝您給予的理解和配合。
本訂閱號不是國泰君安產業研究中心研究報告的發佈平臺。本訂閱號所載的信息僅面向專業投資機構，僅供在新媒體背景下研究觀點的及時交流。本訂閱號所載的信息均摘編自國泰君安證券研究所已經發布的研究報告或者系對已發佈報告的後續解讀，若因對報告的摘編而產生歧義，應以報告發布當日的完整內容為準。本資料僅代表報告發布當日的判斷，相關的分析意見及推測可在不發出通知的情形下做出更改，讀者參考時還須及時跟蹤後續最新的研究進展。
本資料不構成對具體證券在具體價位、具體時點、具體市場表現的判斷或投資建議，不能夠等同於指導具體投資的操作性意見，普通的個人投資者若使用本資料，有可能會因缺乏解讀服務而對報告中的關鍵假設、評級、目標價等內容產生理解上的歧義，進而造成投資損失。因此個人投資者還須尋求專業投資顧問的指導。本資料僅供參考之用，接收人不應單純依靠本資料的信息而取代自身的獨立判斷，應自主作出投資決策並自行承擔投資風險。
版權所有，未經許可禁止轉載或傳播。
2019年7月10日上午，在國泰君安證券2019年信息產業投資峰會上，瑞萊智慧CEO田天進行了題為《RealAI第三代人工智能算法與實踐》的演講。
我們的理解
隨著近五年來AI爆發式地發展，並持續向各行業滲透，以深度學習為代表的AI技術的侷限和問題逐漸暴露，尤其是其不可靠、不安全、不可解釋的特性，受到了業界廣泛的關注。能真正落地，並用於關鍵應用場景的必須是安全、可靠、可理解的AI，不然很難說服用戶買單，尤其是企業級、政府級客戶。
打造可解釋、安全可控的新一代AI是AI走向更普遍應用的必須要解決的核心問題。而解決這一問題，需要產業界、學術界及政府等多方的努力和推動：
學術界方面，越來越多的新的機器學習技術的出現，例如貝葉斯深度學習，為使用者提供可解釋的輸出結果及過程。
政府方面，各國政府相繼推出法律法規來約束人工智能技術的應用，保障AI的公平性、公開性、透明性等，防止其被濫用。
產業界方面，google、瑞萊智慧等公司已開始致力於打造可解釋的AI平臺和算法。
主講嘉賓介紹
田天 瑞萊智慧 CEO
清華大學計算機系博士，瑞萊智慧創始人兼CEO，機器學習、知識聚合領域專家，西貝爾學者，長期從事概率機器學習相關研究。
演講實錄
AI發展到目前，一共經歷了三代。第一代AI是知識驅動型的AI，例如專家系統，它的特點是從宏觀層面模擬人的行為，它能解決的問題規模很有限。
第二代AI是數據驅動型的AI。例如深度神經網絡技術，能夠基於大量數據尋找其中規則，但依賴於大量高質量數據。以深度神經網絡技術為代表的第二代AI技術也存在重大缺陷：不可靠，不安全，不可解釋。
不可靠：由於AI識別或預測算法出錯，特斯拉、Uber、Waymo等自動駕駛系統出現多次事故；
不安全：通過生成對抗式圖像，能夠欺騙智能監測系統，使AI系統識別錯誤；
不可解釋：沒有決策依據，當算法給出的結果不是100%準確，則此結果人類難以信任和採用，如醫療等高價值決策領域無法很好應用。
第三代人工智能，最早由清華大學提出，張鈸院士指出現行的AI算法無法處理以下“五性”中的任何一種場景：數據或知識缺乏，非完全信息，不確定性，動態，開放域及多任務。而第三代人工智能則是要突破當前AI算法的困境，使之能夠在更廣泛的領域得到應用。第三代人工智能主要有以下特點：
可靠性（樣本不足。噪聲高標註差情況下實現預測效果可提升）;
可解釋性（一定程度上提供白盒化預測結果和可理解決策依據）;
安全性（算法受到惡意攻擊和數據缺陷情況下給出可靠的預測結果）。
實現第三代人工智能有多種不同渠道，我們的核心技術包括貝葉斯深度生成式模型，貝葉斯神經網絡和AI攻防技術。RealAI公司18年孵化自清華大學人工智能研究院，是國內首家致力於第三代人工智能技術研究和應用推廣的公司，由張鈸院士和朱軍教授共同擔任首席科學家。
RealAI希望把第三代人工智能，特別是貝葉斯深度學習技術平臺化，讓第三代人工智能技術能夠在具體的應用場景中更快地部署。在我們已實現的案例中，第三代AI主要能夠為工業和金融領域提供無監督學習，可解釋學習及小樣本機器學習能力。
無監督學習方面，在工業場景，可通過無監督學習實現缺陷檢測和設備預測性維護。金融領域，也有無監督的行為反欺詐及團伙欺詐的檢測。
可解釋性方面，給出預測結果的同時，能夠提供決策依據，讓人們可以更好地進行決策。如工業領域的設備安全評估方面，要給出安全故障的原因，及隱患位置，才有實際的應用價值。金融領域也可用於個人企業徵信及智能投顧場景。
小樣本學習方面，貝葉斯深度學習應用在圖像的檢測場景上，在典型應用中只需現行的1/20的數據即可取得相似效果。金融風控場景中，可實現對壞客戶的冷啟動精準排序及預警。
總體而言，第三代AI的應用價值在於，可用於小樣本及少標註等傳統機器學習很難解決的場景。對傳統能解決的場景，也能提供更準確的預測結果及判斷依據。更細節的應用在工業領域體現在異常檢測，工藝優化，預測性維護。工業視覺檢測中，能夠解決樣本少標籤困難的問題。通過使用小樣本半監督或無監督算法從數據中找出有可疑區域，並給出不確定度分析，進而篩選出可疑區域和需要標註區域，交給專家進行標註，返回來優化模型，通過此方法降低樣本需求量和標註依賴程度。進一步結合模型與後處理規則，能夠滿足個性化的需求，形成可以產前部署的產品。以光伏EL檢測為例，通過算法對十幾種不同缺陷進行檢測，漏檢率和誤檢率均低於人工。在油氣管道缺陷檢測中，用變分自編碼器的方法進行異常檢測，檢測效果也接近人工。在時序分析領域，如在大壩結構安全的場景，通過貝葉斯神經網絡可實現數據補全，實現相似的安全性評估及對不確定度的分析。
第三代AI技術，尤其是貝葉斯深度學習，無監督、半監督和小樣本學習技術在金融領域也有很好的應用，如風控冷啟動，大小額遷移，拒絕客戶回撈，模型無偏糾正，可解釋推斷等。例如，用無監督學習技術分析某銀行的28萬條信用卡可疑交易數據，綜合準確率高於90%。在有監督學習場景，如信用卡貸後行為分析，通過貝葉斯深度學習方法，找出的100條最高危的數據中，實際的壞客戶率高達90%，一般的深度學習只能做到15%；1000條時仍能做到61.8%，而深度學習只有13.4%。
不同的人需要不同的可解釋性方案，我們在嘗試過程中積累了多種不同的可解釋性模型和可解釋性方案，例如模型級、實例級可解釋，實現千人千面可解釋效果。
AI安全問題已引起全社會廣泛關注。目前AI算法的主要風險在於，通過對抗樣本攻擊，可以讓算法做出錯誤判斷。DeepFake做人臉造假幾乎以假亂真，而用現行最先進的人臉識別技術判斷的失敗率高達95%。為了抵禦對抗樣本的攻擊，我們的方法有數據清洗，數據過濾及直接將預測模型本身進行升級，提升對噪聲的抗干擾能力。目前RealAI通過多種技術手段，在三方面都取得了進展：
在攻擊場景上，AI攻擊分為白盒攻擊和黑盒攻擊。白盒攻擊已實現近100%的成功率。黑盒攻擊在很多場景也取得成功。
在攻擊目標上，可分為有目標攻擊和無目標攻擊。無目標攻擊可以讓當前的AI識別算法出錯，導致誤識別或無法識別。有目標攻擊則更進一步，通過算法可以將攻擊者識別為特定目標，達到偽裝的效果。
從應用場景分，還可分為數字攻擊和物理攻擊。數字攻擊方面，可以做到類似DeepFake換臉、假視頻的效果。物理攻擊方面，在人臉識別領域，可以攻破商用手機人臉解鎖。當前的AI算法通過檢測對比解鎖者與手機機主人臉的相似度，如果相似度低於給定閾值，則認為當前解鎖者並非手機的機主。但通過我們的算法生成特定圖案，打印出來貼在眼鏡上，就能夠誤導AI識別算法，從而成功解鎖手機。
我們做AI安全方面的研究，主要目的是防禦以上攻擊，避免因為AI技術濫用導致的安全問題。通過我們的安全檢測系統，能夠識別出惡意攻擊，從而實現對系統的保護。以人臉解鎖為例，對於未佩戴眼鏡的人，算法可識別為正常，若加了眼鏡，AI防火牆會識別出是惡意攻擊者，並拒絕訪問。基於相關的AI安全攻防技術，我們在今年5月初已發佈RealSafe對抗攻防平臺，其中的算法在世界級大賽中取得過多項世界第一。針對人們的學習需求，我們也做了RealSafe安全演練平臺，包括深度學習，白盒攻擊，初級防禦，黑盒攻擊，高級防禦，對抗演練等。
本篇報告的核心觀點：
1.深度神經網絡技術不完美，存在很多缺陷。
2.我們用的貝葉斯深度學習技術，也就是第三代人工智能技術，能夠使AI更可靠，可解釋，安全。
3.第三代人工智能可為應用帶來巨大的價值。
謝謝大家！
免責聲明
《證券期貨投資者適當性管理辦法》於2017年7月1日起正式實施。通過微信形式製作的本資料僅面向國泰君安證券客戶中的專業投資者。請勿對本資料進行任何形式的轉發。若您非國泰君安證券客戶中的專業投資者，為保證服務質量、控制投資風險，請取消關注，請勿訂閱、接受或使用本資料中的任何信息。因本訂閱號難以設置訪問權限，若給您造成不便，煩請諒解！感謝您給予的理解和配合。
本訂閱號不是國泰君安產業研究中心研究報告的發佈平臺。本訂閱號所載的信息僅面向專業投資機構，僅供在新媒體背景下研究觀點的及時交流。本訂閱號所載的信息均摘編自國泰君安證券研究所已經發布的研究報告或者系對已發佈報告的後續解讀，若因對報告的摘編而產生歧義，應以報告發布當日的完整內容為準。本資料僅代表報告發布當日的判斷，相關的分析意見及推測可在不發出通知的情形下做出更改，讀者參考時還須及時跟蹤後續最新的研究進展。
本資料不構成對具體證券在具體價位、具體時點、具體市場表現的判斷或投資建議，不能夠等同於指導具體投資的操作性意見，普通的個人投資者若使用本資料，有可能會因缺乏解讀服務而對報告中的關鍵假設、評級、目標價等內容產生理解上的歧義，進而造成投資損失。因此個人投資者還須尋求專業投資顧問的指導。本資料僅供參考之用，接收人不應單純依靠本資料的信息而取代自身的獨立判斷，應自主作出投資決策並自行承擔投資風險。
版權所有，未經許可禁止轉載或傳播。