導航:首頁 > 信息技術 > dst技術是什麼

dst技術是什麼

發布時間:2023-01-25 08:43:23

⑴ dst和esp區別

dst和esp區別:
1、ESP中文名字叫電子穩定程序,DST是協同動力系統。
2、ESP是提高了所有駕駛工況下的主動安全性。
3、DST是在採用多種先進、成熟的發動機技術的基礎上,通過精心匹配和智能化控制系統,確保發動機系統各部分在車輛動態行駛環境下有機配合,實現整體能效最大化。

⑵ 任務型對話系統中狀態追蹤(DST)

前面寫了對話系統中的SLU之領域 分類/意圖識別 、 槽填充 、 上下文LU和結構化LU 以及 NLG ,DST是對話管理(DM)的一部分,而DM是任務型對話中至關重要的一部分。說個 非嚴格的對比 :如果把對話系統比作計算機的話,SLU相當於輸入,NLG相當於輸出設備,而DM相當於CPU(運算器+控制器)。

對話系統按功能來劃分的話,分為閑聊型、任務型、知識問答型和推薦型。在不同類型的聊天系統中,DM也不盡相同。

閑聊型對話中的DM就是對上下文進行序列建模、對候選回復進行評分、排序和篩選等,以便於NLG階段生成更好的回復;

任務型對話中的DM就是在NLU(領域分類和意圖識別、槽填充)的基礎上,進行對話狀態的追蹤(DST)以及對話策略的學習(DPL,下次分享),以便於DPL階段策略的學習以及NLG階段澄清需求、引導用戶、詢問、確認、對話結束語等。

知識問答型對話中的DM就是在問句的類型識別與分類的基礎上,進行文本的檢索以及知識庫的匹配,以便於NLG階段生成用戶想要的文本片段或知識庫實體。

推薦型對話系統中的DM就是進行用戶興趣的匹配以及推薦內容評分、排序和篩選等,以便於NLG階段生成更好的給用戶推薦的內容。

什麼是對話狀態?其實狀態St就是一種 包含0時刻到t時刻的對話歷史、用戶目標、意圖和槽值對的數據結構 ,這種數據結構可以給DPL階段提供學習策略(比如定機票時,是詢問出發地還是確定訂單?)繼而完成NLG階段的回復。

對話狀態追蹤(DST)的作用: 根據領域(domain)/意圖(intention) 、曹植對(slot-value pairs)、之前的狀態以及之前系統的Action等來追蹤當前狀態 。他的 輸入是Un(n時刻的意圖和槽值對,也叫用戶Action)、An-1(n-1時刻的系統Action)和Sn-1(n-1時刻的狀態),輸出是Sn(n時刻的狀態) 。 這里用戶Action和系統Action不同,且需要注意

S = {Gn,Un,Hn},Gn是用戶目標、Un同上、Hn是聊天的歷史,Hn= {U0, A0, U1, A1, ... , U −1, A −1},S =f(S −1,A −1,U )。

DST涉及到兩方面內容: 狀態表示、狀態追蹤 。另外為了解決領域數據不足的問題,DST還有很多遷移學習(Transfer Learning)方面的工作。比如基於特徵的遷移學習、基於模型的遷移學習等。

為了在抽象的建模的基礎上加深理解,看個小例子:

通過前面的建模和實例化,不難看出對話狀態數跟意圖和槽值對的數成 指數關系 ,維護所有狀態的一個分布非常非常浪費資源,因此需要比較好的狀態表示法來減少狀態維護的資源開銷(相當於特定任務下,更合理的數據結構設計,好的數據結構帶來的直接影響就是演算法開銷變小)。

常見的狀態表示法包括兩種:

Hidden Information State Model (HIS)

這種方法就是:使用 狀態分組 狀態分割 減少跟蹤復雜度。其實就是類似於二分查找、剪枝。

Bayesian Update of Dialogue States (BUDS)

這種方法就是:假設不同槽值的轉移概率是相互獨立的,或者具有非常簡單的依賴關系。這樣就將狀態數從意圖和槽值數的 指數 減少到了 線性

下面簡單對比下兩種不同狀態表示法的優缺點:

講到DST就不得不講DSTC,DSTC是 Dialog System Technology Challenge ,主要包括6個Challenge。DSTC對DST的作用就相當於目標函數對機器學習任務的作用,真正起到了評估DST技術以及促進DST技術發展的作用。之所以在DST前先說DSTC是因為後面的很多DST的方法是在某個DSTC(大多是DSTC2、DSTC3、DSTC4、DSTC5)上做的。

先來看看DST的形象化

再來看看我總結的DST的方法匯總,注意我沒有整理基於規則的DST( 基於規則的方法雖然可以較好利用先驗知識從而可以較好解決冷啟動等問題,但是需要太多人工、非常不靈活、擴展性和移植性很差、不能同時追蹤多種狀態 )。

下面分別介紹一下對話系統中的不同DST技術。

論文: ( Lee, SIGDIAL 2013 )( Kim et al., 2014 )

從BUDS中對不同槽值的轉移概率是相互獨立的假設(是不是很像馬爾可夫假設?)以及St的預測需要Un、An-1和Sn-1(轉移概率和發射概率),是不是想到了HMM和CRF?沒錯,前期的基於統計的DST就是用了很多CRF。 n = (S −1, A −1, U )。

Lee, SIGDIAL 2013 的主要思想如下:

Kim et al., 2014 的主要思想如下:

論文: Mrkšić et al., ACL 2015 )( Henderson et al., 2013 )( Henderson et al., 2014 )( Zilka el al., 2015

關於神經網路的介紹、神經網路的好處和壞處,不再贅述,已經爛大街。基於神經網路的很多方法是在DSTC上做的,這里選取了幾篇有針對性的經典論文簡單介紹下。

Mrkšić et al., ACL 2015 是ACL2015的一篇論文,它是用RNN進行多領域的對話狀態追蹤,主要貢獻是證明:利用多個領域的數據來訓練一個通用的狀態追蹤模型比利用單領域數據訓練追蹤模型效果要好。

Henderson et al., 2013 是利用DNN來解決DSTC,它把DST當分類問題,輸入時間窗口內對話輪次提取的特徵,輸出slot值的概率分布。該方法不太容易過擬合,領域遷移性很好。模型結構圖如下:

Henderson et al., 2014 ,基於DRNN和無監督的自適應的對話狀態魯棒性跟蹤,從論文名字就能看出因為使用DRNN和無監督的自適應導致DST 魯棒性很好

先來看看特徵提取的辦法:主要提取f,fs,fv三種特徵,f是針對原始輸入提取,fs和fv是對原始輸入中的詞做Tag替換得到 泛化特徵

再來看下模型結構:對slot訓練一個模型,利用無監督的自適應學習,將模型泛化到新的domain以便於提高模型的泛化能力。

Zilka el al., 2015 ,基於增量LSTM在DSTC2做對話狀態追蹤,具體思想如下:

Williams 2013 )( Mrkšic, ACL 2015

目前對話系統數據較少,我比較看好遷移學習在任務型對話中的應用,尤其是DST這種較復雜的任務。

Williams 2013 ,這是通過 多領域學習與泛化 來做對話狀態追蹤,比較好的解決了數據目標領域數據不足的問題。

Mrkšic, ACL 2015 ,這是ACL 2015的一篇paper,基於RNN做多領域的對話狀態追蹤,主要貢獻是證明:利用多個領域的數據來訓練一個通用的狀態追蹤模型比利用單領域數據訓練追蹤模型效果要好。順便說一句,這篇論文涵蓋了很多任務型對話領域比較高產的學者。

Shietal., 2016 ,基於 多通道卷積神經網路 跨語言 的對話狀態跟蹤。為每一個slot訓練一個多通道CNN(中文character CNN、中文word CNN、英文word CNN),然後跨語言做對話狀態追蹤,我個人很喜歡這篇paper,也非常推薦大家好好讀讀這篇paper。

先來看看方法的整體結構:

再來看看多通道CNN的結構圖:

最後看看輸入之前的預處理:

Mrkšić et al., ACL 2017

這是發表於ACL 2017的一篇論文,個人覺得水平很高。

先來看一下基於word2vec的表示學習模型,本文提出兩種架構:NBT-DNN、NBT+CNN,結構圖如下:

再來看看整個模型的結構圖,它包含語義解碼和上下文建模兩部分:語義解碼:判斷槽值對是否出現在當前query;上下文建模:解析上一輪系統Act,系統詢問(tq)+ 系統確認(ts+tv)。

模型還有一部分:二元決策器,用來判定當前輪的槽值對的狀態。本文的狀態更新機制採用簡單的基於規則的狀態更新機制。

另外,ACL 2018在本文的基礎上提出完全NBT( Fully NBT) ,主要變動是修改基於規則的狀態更新機制,把更新機制融合到模型來做 聯合訓練 。具體更新狀態的機制包括One-Step Markovian Update( 一步馬爾科夫更新,使用兩個矩陣學習當前狀態和前一時刻狀態間的更新關系和系數)和Constrained Markovian Update(約束馬爾科夫更新,利用對角線和非對角線來構建前一種方法中的矩陣,對角線學習當前狀態和前一時刻狀態間的關系,非對角線學習不同value間如何相互影響)。總之,這個工作擴展的比較細致。

其實還有很多種對話狀態追蹤的方法,比如基於貝葉斯網路做DST、基於POMDP(部分可觀測馬爾可夫決策過程)做DST等,因為時間相對比較久遠,這里不再贅述。

以上介紹了多種對話系統中的DST技術,下面簡單總結下它們的優勢和劣勢。

任何一項技術想要取得進步,那麼他的評測方法是至關重要的(就相當於目標函數之於機器學習演算法),所以我列出一些關於DST的評估。遺憾的是,目前DST的評估我感覺並不成熟,這也是制約DST發展的一個重要原因,如果誰能想出更好的評估方法或整理出一個業內公認的高質量數據集,那麼一定會在DST(甚至是對話系統)領域有一席之地,引用量也會蹭蹭的上漲。

6.1.Dialog State Tracking Challenge (DSTC)

Williams et al. 2013, Henderson et al. 2014, Henderson et al. 2014, Kim et al. 2016, Kim et al. 2016, Hori et al. 2017

6.2. State Representation:

6.2.1 HIS

Steve Young, Jost Schatzmann, Karl Weilhammer, and Hui Ye. The hidden information state approach to dialog management.

6.2.2 BUDS

Blaise Thomson, Jost Schatzmann, and Steve Young. Bayesian update of dialogue state for robust dialogue systems.

6.3.DST

6.3.1 CRF

Sungjin Lee. Structured discriminative model for dialog state tracking. In Proceedings of the SIGDIAL 2013 Conference. Lee, SIGDIAL 2013

Seokhwan Kim and Rafael E Banchs. Sequential labeling for tracking dynamic dialog states. Kim et al., 2014

6.3.2 NN-Based DST

Multi-domain Dialog State Tracking using Recurrent Neural Network, Mrkšić et al., ACL 2015

Deep Neural Network Approach for the Dialog State Tracking Challenge, Henderson et al., 2013

Robust dialog state tracking using delexicalised recurrent neural networks and unsupervised adaptation, Henderson et al., 2014

Incremental lstm-based dialog state tracker, Zilka el al., 2015 .

6.3.3 Neural Belief Tracker

Neural Belief Tracker: Data-Driven Dialogue State Tracking , Mrkšić et al., ACL 2017

6.3.4 Multichannel Tracker

A Multichannel Convolutional Neural Network For Cross-language Dialog State Tracking, Shi et al., 2016

6.3.5 Transfer learning for DST

6.3.5.1 Feature based transfer for DST

Jason Williams. Multi-domain learning and generalization in dialog state tracking . In Proceedings of SIGDIAL. Williams 2013

Hang Ren, Weiqun Xu, and Yonghong Yan. Markovian discriminative modeling for cross-domain dialog state tracking .

6.3.5.2 Model based transfer for DST

Nikola Mrkšic, Diarmuid O Séaghdha, Blaise Thomson,Milica Gaši ́c, Pei-Hao Su, David Vandyke, Tsung-Hsien Wen, and Steve Young. Multi- domain dialog state tracking using recurrent neural networks . Mrkšic, ACL 2015

⑶ DST是什麼意思啊

DST:夏時制

DST是夏時制(Daylight Saving Time)的簡稱,表示為了節約能源,人為規定時間的意思。也叫夏時制,夏時令(Daylight Saving Time:DST),又稱「日光節約時制」和「夏令時間」,在這一制度實行期間所採用的統一時間稱為「夏令時間」。

DST:夏時制優點

高緯度地區由於夏季太陽升起時間明顯比冬季早,夏令時確實起到節省照明時間的作用。不少零售商對夏令時持肯定態度,美國的糖果商院集團已經游說美國國會將夏令時延長到11月。

因為萬聖節是糖果銷售最旺的季節,而家長們不希望孩子們在天黑以後還在外面遊逛。有人認為夏令時對患有夜盲症的人大有好處。除了節約了電,也讓人們養成了早睡早起的好習慣。

卡西歐g-shock系列一直被認為價格非常便宜,它的目標人群是喜歡運動的年輕人,他們的收入相對不高,所以這個系列的手錶已經成為他們的選擇之一。喜歡手錶的人都知道,卡西歐是日本品牌。與精工、東方、西方鐵城一樣,是日本四大手錶品牌之一。

卡西歐大部分手錶都是電子表,質量比國內著名的電子表稍好一些。卡西歐手錶運動、年輕、時尚、多功能的形象已經確立。在小系列中,卡西歐手錶屬於中產階級,屬於年輕流行的標志。卡西歐還擁有六大手錶系列,包括g-shock、baby-g、PROTREK、EDIFICE、SHEEN、OCEANUS。

⑷ DST是什麼意思

DST有四種不同釋義,具體如下:

1、DST:夏時制

DST是夏時制(Daylight Saving Time)的簡稱,表示為了節約能源,人為規定時間的意思。也叫夏時制,夏時令(Daylight Saving Time:DST),又稱「日光節約時制」和「夏令時間」,在這一制度實行期間所採用的統一時間稱為「夏令時間」。

2、DST:隔音材料

DST汽車隔音材料,用於汽車的隔音,用丁基橡膠材質,純天然、無污染的,絕對環保、無異味。比較有名的汽車隔音材料有大能,薩迪,DST等。

3、DST:投資集團

DST是一個總部位於俄羅斯莫斯科的投資集團。公司是俄羅斯,CIS和東歐互聯網市場的主要投資商。擁有眾多互聯網公司並佔領超過70%的互聯網市場。

主要投資的公司包括大型的社交網站Vkontakte,俄語的互聯網門戶、郵件和社交網路公司Forticom。部分收入來自付費點擊廣告和出售虛擬物品。

4、DST:領土監視局

Direction de la Surveillance Territoire(DST),領土監視局,隸屬於國家警察,法國情報機構之一。國家警察本身屬於內政部管制。DST執行反情報反恐怖使命。

(4)dst技術是什麼擴展閱讀:

1、DST:夏時制優點

高緯度地區由於夏季太陽升起時間明顯比冬季早,夏令時確實起到節省照明時間的作用。不少零售商對夏令時持肯定態度,美國的糖果商院集團已經游說美國國會將夏令時延長到11月。

因為萬聖節是糖果銷售最旺的季節,而家長們不希望孩子們在天黑以後還在外面遊逛。有人認為夏令時對患有夜盲症的人大有好處。除了節約了電,也讓人們養成了早睡早起的好習慣。

2、DST:夏時制弊端

對低緯度地區,夏令時作用不大。尤其這些地方在夏天十分濕熱,夜晚降臨時悶熱無法入眠,而清晨正是睡眠的好時間。

當夏令時開始和結束時,人們必須將所有計時儀器調快或調慢;當夏令時結束時,某些時間會在當天出現兩次,這些都容易構成混亂。並且影響航班的時間。夏令時違背了設定時區的原意──盡量使中午貼近太陽上中天的時間。

⑸ dst是什麼意思 dst的意思

1、DST(夏時制)一般指夏令時。

2、夏令時,表示為了節約能源,人為規定時間的意思。也叫夏時制,夏時令(Daylight Saving Time:DST),又稱「日光節約時制」和「夏令時間」,在這一制度實行期間所採用的統一時間稱為「夏令時間」。一般在天亮早的夏季人為將時間調快一小時,可以使人早起早睡,減少照明量,以充分利用光照資源,從而節約照明用電。各個採納夏時制的國傢具體規定不同。全世界有近110個國家每年要實行夏令時。

閱讀全文

與dst技術是什麼相關的資料

熱點內容
花唄怎麼顯示不能交易 瀏覽:394
現在什麼市場有妖股 瀏覽:159
a列數據是什麼 瀏覽:366
飛機上提供什麼服務產品 瀏覽:311
河源職業技術環境怎麼樣 瀏覽:656
天天發信息說明什麼 瀏覽:994
當兵政審程序需要多久時間 瀏覽:584
從事程序學什麼語言最好 瀏覽:77
貼牌產品如何發展 瀏覽:814
廣州哪個批發市場賣羽絨服 瀏覽:794
濟南數碼電子產品有哪些 瀏覽:733
普陀區有哪些運輸信息推薦 瀏覽:293
想在淘寶上賣農產品怎麼弄 瀏覽:8
怎麼在網上找專業技術工作 瀏覽:830
甲減是什麼數據異常 瀏覽:421
如何發送緩沖寄存器數據 瀏覽:611
清水河通信型數據終端多少錢 瀏覽:992
法院程序多久出判決書 瀏覽:96
miui游戲驅動程序偏好設置有什麼用 瀏覽:395
代理一個保羅品牌需要多少錢 瀏覽:983