久久国产乱子伦精品免费观看_亚洲欧美日韩综合在线丁香_欧 美 成 人 网站在线观看_最新欧美电影免费在线_国产精品操干在线观看_最近中文字幕在线视频1_69天堂人成无码_国产影视一区二区三区_中文亚洲精油按摩色偷偷av_99自拍偷拍视频

您當(dāng)前的位置:首頁(yè) > 新聞中心 > 行業(yè)新聞
多模態(tài)語(yǔ)義加工中的動(dòng)態(tài)環(huán)路機(jī)制 2021年11月23日

語(yǔ)義加工依賴于兩個(gè)系統(tǒng)的交互作用:語(yǔ)義表征系統(tǒng)和語(yǔ)義控制系統(tǒng)。語(yǔ)義表征系統(tǒng)主要用于語(yǔ)義的存儲(chǔ),語(yǔ)義控制系統(tǒng)使語(yǔ)義加工更靈活、動(dòng)態(tài)地符合當(dāng)前的情景和任務(wù)要求。

然而,廣義上的語(yǔ)義信息不僅包括語(yǔ)言信息,也包括來(lái)自其他模態(tài)的信息。其中來(lái)自手勢(shì)的信息格外重要。手勢(shì)是伴隨言語(yǔ)而產(chǎn)生的活動(dòng),一般手勢(shì)呈現(xiàn)早于言語(yǔ),不僅可以作為言語(yǔ)的補(bǔ)充說(shuō)明,而且可以包含言語(yǔ)中不存在的信息。手勢(shì)信息和言語(yǔ)信息交互作用,共同影響著人們對(duì)交流信息的理解。

以往的研究發(fā)現(xiàn),跨模態(tài)的手勢(shì)信息和言語(yǔ)信息的加工過(guò)程也會(huì)涉及語(yǔ)義加工的兩個(gè)系統(tǒng),然而這兩個(gè)系統(tǒng)是如何在手勢(shì)與言語(yǔ)的跨模態(tài)語(yǔ)義加工中動(dòng)態(tài)交互的尚不明確。



圖片


針對(duì)這一問(wèn)題,中國(guó)科學(xué)院行為科學(xué)院重點(diǎn)實(shí)驗(yàn)室杜憶研究組采用非侵入性精密計(jì)時(shí)雙脈沖經(jīng)顱磁刺激(double-pulse TMS)技術(shù),將手勢(shì)和言語(yǔ)信息的整合過(guò)程分成以40ms為單位的時(shí)間窗,在每個(gè)時(shí)間窗上分別對(duì)多模態(tài)語(yǔ)義表征核心腦區(qū)——后側(cè)顳中回(pMTG)和語(yǔ)義控制核心腦區(qū)——額下回(IFG)實(shí)施雙脈沖TMS刺激(圖1),以期獲得兩個(gè)系統(tǒng)的因果性時(shí)間動(dòng)態(tài)加工機(jī)制

實(shí)驗(yàn)中,研究者根據(jù)言語(yǔ)詞匯的加工過(guò)程將手勢(shì)和言語(yǔ)的整合分成詞匯前的語(yǔ)音階段和詞匯后的語(yǔ)義加工階段。詞匯前階段包含3個(gè)時(shí)間窗(TW1,TW2, TW3),詞匯后階段包含5個(gè)時(shí)間窗(TW4-TW8)。實(shí)驗(yàn)招募了26名年輕被試,通過(guò)被試內(nèi)設(shè)計(jì)分別刺激IFG,pMTG和頭頂(Vertex控制條件),實(shí)驗(yàn)共包含24個(gè)block,分4次每次間隔5-7天完成。實(shí)驗(yàn)從兩個(gè)維度操縱了手勢(shì)-言語(yǔ)信息的一致性,包含語(yǔ)義一致(呈現(xiàn)“剪”的語(yǔ)音和“剪紙”的手勢(shì)動(dòng)作)和語(yǔ)義不一致(呈現(xiàn)“剪”的語(yǔ)音和“噴水”的手勢(shì)動(dòng)作),以及性別一致(說(shuō)話人和做手勢(shì)動(dòng)作的人都是男性)和性別不一致(說(shuō)話人是男性,做手勢(shì)動(dòng)作的人是女性)條件。實(shí)驗(yàn)要求被試看著屏幕,但是只對(duì)聽(tīng)到的講話人性別做出判斷。


圖1. 刺激呈現(xiàn)及雙脈沖TMS 刺激施加于不同時(shí)間窗的示意圖
DP表示手勢(shì)的區(qū)分時(shí)間點(diǎn)(discrimination point),IP表示言語(yǔ)的識(shí)別時(shí)間點(diǎn)(identification point)


研究結(jié)果發(fā)現(xiàn),在控制條件下(刺激Vertex)出現(xiàn)了典型的語(yǔ)義一致性效應(yīng),即語(yǔ)義不一致條件下的反應(yīng)時(shí)顯著大于語(yǔ)義一致條件下的反應(yīng)時(shí),說(shuō)明手勢(shì)與言語(yǔ)存在自動(dòng)化的語(yǔ)義整合。以語(yǔ)義一致性效應(yīng)量作為手勢(shì)-言語(yǔ)整合的行為指標(biāo),相對(duì)于控制條件,刺激pMTG時(shí)在TW1,TW2和TW7三個(gè)時(shí)間窗出現(xiàn)了手勢(shì)-言語(yǔ)整合效應(yīng)的顯著性降低,而當(dāng)TMS實(shí)施于IFG時(shí),則出現(xiàn)了TW3和TW6下手勢(shì)-言語(yǔ)整合效應(yīng)的顯著性降低(圖2)。


圖2. TMS選擇性地在IFG和pMTG的不同時(shí)間窗影響了手勢(shì)和言語(yǔ)的整合


根據(jù)結(jié)果,研究提出了手勢(shì)-言語(yǔ)的兩階段整合環(huán)路。第一個(gè)階段是詞匯前的語(yǔ)音加工階段,在這一階段,語(yǔ)音信息的輸入一方面自下而上地激活了位于顳上回和顳上溝(STG/S)的語(yǔ)音表征,另一方面又受到先呈現(xiàn)的手勢(shì)信息的自上而下的詞匯語(yǔ)義約束。在這一過(guò)程中,手勢(shì)對(duì)言語(yǔ)的調(diào)控先發(fā)生于pMTG,后出現(xiàn)于IFG,提示存在pMTG向IFG的前饋投射。第二個(gè)階段是詞匯后的語(yǔ)義加工階段,手勢(shì)的語(yǔ)義信息和言語(yǔ)的語(yǔ)義信息整合形成統(tǒng)一的語(yǔ)義表征。在這一過(guò)程中,IFG比pMTG更早參與到整合過(guò)程,提示存在IFG向pMTG的反饋調(diào)節(jié)(圖3)。


圖3. (A) 不同加工階段手勢(shì)-言語(yǔ)整合受到TMS影響的腦區(qū)匯總圖

(B)手勢(shì)-言語(yǔ)兩階段加工環(huán)路假設(shè)


該研究為多模態(tài)語(yǔ)義整合的動(dòng)態(tài)腦環(huán)路機(jī)制提供了因果性證據(jù),揭示了額葉語(yǔ)義控制系統(tǒng)與顳葉語(yǔ)義表征系統(tǒng)的動(dòng)態(tài)交互過(guò)程。






研究得到國(guó)家自然科學(xué)基金(31800964, 31822024)、心理所青年人才啟動(dòng)項(xiàng)目(Y8CX382005)和中國(guó)科學(xué)院戰(zhàn)略性先導(dǎo)科技專項(xiàng)(XDB32010300)的資助。

心理所助理研究員趙婉瑩是該研究的第一作者,杜憶研究員為通訊作者。

相關(guān)論文已在線發(fā)表于The Journal of Neuroscience


論文信息:
Zhao, W., Li, Y., & Du, Y. (2021). TMS reveals dynamic interaction between inferior frontal gyrus and posterior middle temporal gyrus in gesture-speech semantic integration. The Journal of Neuroscience, JN-RM-1355-1321. 
https://doi.org/10.1523/jneurosci.1355-21.2021 


來(lái)源:
中國(guó)科學(xué)院行為科學(xué)院重點(diǎn)實(shí)驗(yàn)室 
杜憶研究組


分享到:

最熱資訊

熱門標(biāo)簽