異步等待的 Python 協(xié)程

現(xiàn)在 Python 已經(jīng)支持用協(xié)程進(jìn)行異步處理。但最近有建議稱添加協(xié)程以全面完善 Python 的語言結(jié)構(gòu),而不是像現(xiàn)在這樣把他們作為生成器的一個(gè)類型。此外,兩個(gè)新的關(guān)鍵字———異步(async)和等待(await),都該添加到 Python 中來支持協(xié)程。

異步等待的 Python 協(xié)程
異步等待的 Python 協(xié)程

也許有人不太了解協(xié)程,其實(shí)協(xié)程的原理很簡單,打個(gè)比方就能講明白了:假設(shè)有十個(gè)人去食堂打飯,這個(gè)食堂比較窮,只有一個(gè)打飯窗口和一個(gè)打飯阿姨,那么打飯就只能一個(gè)一個(gè)排隊(duì)進(jìn)行。這十個(gè)人胃口很大,每個(gè)人都要點(diǎn)5個(gè)菜,但這十個(gè)人都喜歡猶豫不決,點(diǎn)菜的時(shí)候每點(diǎn)一個(gè)菜后再想下一個(gè)菜點(diǎn)什么,因此后面的人等得很著急呀。

這樣一直站著也不是個(gè)事兒,所以打菜的阿姨看到某人猶豫5秒后就會吼一聲,讓他排到隊(duì)伍末尾,讓別人先打菜,等輪到他的時(shí)候他也差不多想好吃什么了。這確實(shí)是個(gè)不錯(cuò)的方法,但也有一個(gè)缺點(diǎn),那就是打菜的阿姨會等每個(gè)人5秒鐘,如果那個(gè)人在5秒內(nèi)沒有做出決定吃啥,其實(shí)這5秒就浪費(fèi)了。一個(gè)人點(diǎn)一個(gè)菜就是浪費(fèi)5秒,十個(gè)人每個(gè)人點(diǎn)5個(gè)菜可就浪費(fèi)的多啦「菜都涼了要」。

那怎么辦呢?阿姨又發(fā)話了:大家都是學(xué)生,學(xué)生就要自覺,我以后也不主動(dòng)讓你們排到末尾了,如果你們覺得自己會猶豫不決,就主動(dòng)點(diǎn)直接點(diǎn)一個(gè)菜就站后面去,等下次排到的時(shí)候也差不多想好吃啥了。

這個(gè)方法果然有效,大家點(diǎn)了菜后想的第一件事情不是下一個(gè)菜吃什么,而是自己會不會猶豫,如果會猶豫那直接排到隊(duì)伍后面去,如果不會就接著點(diǎn)菜。這樣一來整個(gè)隊(duì)伍的效率自然就高了。

這個(gè)例子里,排隊(duì)阿姨的那聲吼就是我們的 CPU 中斷,用于切換上下文。每個(gè)打飯的學(xué)生就是一個(gè) task。而每個(gè)人決定自己要不要讓出窗口的這種行為,其實(shí)就是我們協(xié)程的核心思想。

OK,回到主題,協(xié)程就是一種可以在代碼的各種預(yù)定義位置暫停和恢復(fù)執(zhí)行的函數(shù),它避免了無意義的調(diào)度,由此提高代碼性能。而子程序是一種特殊的協(xié)同程序,它只有單一入口,通過回調(diào)來完成執(zhí)行。Python 的協(xié)程「現(xiàn)有的以生成器為基礎(chǔ)的協(xié)程和新提出的協(xié)程」不是一般意義上的協(xié)程,因?yàn)樵趫?zhí)行暫停時(shí)它們只能將控制權(quán)轉(zhuǎn)給調(diào)用者,而不是像常見的那樣將控制權(quán)轉(zhuǎn)給別的協(xié)程。輔之以事件循環(huán),協(xié)程可用于異步處理,尤其是在 I / O 中。

Python 當(dāng)前支持的協(xié)程基于 PEP342 增強(qiáng)型生成器,于 Python 2.5 版本開始采用。該 PEP 將 yield 語句改為表達(dá)式,并為生成器增加了一些新的方法 「 send() , throw() , and close() 」 ,同時(shí)確保 close() 方法在生成器進(jìn)入垃圾回收階段時(shí)得到調(diào)用。該功能在 Python 3.3 版本的 PEP 380 中得到進(jìn)一步增強(qiáng),它通過增加 yield 表達(dá)式,允許生成器將部分功能授予另一個(gè)生成器「即子生成器」。

以上方法都使協(xié)程依賴于生成器,這使得在代碼段何處進(jìn)行異步調(diào)用變得令人困惑,且頗受限制。尤其,with 和 for 聲明在理論上可以將協(xié)程用于異步調(diào)用,但 Python 語法在那些位置不允許使用 yield 表達(dá)式,因此無法進(jìn)行異步調(diào)用。此外,如果協(xié)程的重構(gòu)將 yield 或 yield from 從函數(shù)中移除 ,它就不再被視為協(xié)程,這會導(dǎo)致一些不明顯的錯(cuò)誤; asyncio 模塊通過 @asyncio.coroutine裝飾器來彌補(bǔ)這方面的不足。

PEP 492 旨在解決以上所有問題。其想法源于 Yury Selivanov 在四月中旬提出的 python-ideas 郵件列表,該想法受到很多人熱情追捧。在5月5日,Guido van Rossum 同意將它添加在 Python 3.5 版本中。不僅如此,5月12日就得到執(zhí)行。一切都進(jìn)展迅速,盡管最終該方法還是在 python-idea 和 python-dev 方面引起熱情討論。

從語法角度看,變化相當(dāng)簡單:

    async def read_data(db):
        data = await db.fetch('SELECT ...')
    ...

這個(gè)例子「來源于 PEP」將使用新的 async def 構(gòu)造函數(shù)創(chuàng)建一個(gè) read_data() 協(xié)程。 await 表達(dá)式將暫停執(zhí)行 read_data(),直到 db.fetch() await able 完成并返回其結(jié)果。await 類似于 yeild from ,但它會確保其參數(shù) awaitable。

此外還有幾種不同類型的 awaitable。一種是本地的協(xié)程對象,在調(diào)用本地協(xié)同程序后的返回為 awaitable,還有基于生成器且有 @types.coroutine 裝飾的協(xié)程。還有一種是未來對象,它代表著在未來完成的操作,也是 awaitable。__await __()方法在 awaitable 的對象都會出現(xiàn)。

然而,向一種語言添加新的關(guān)鍵字時(shí)會出現(xiàn)這樣的問題:任何與關(guān)鍵字名字相同的變量都會成為語法錯(cuò)誤。為了避免該問題,Python 3.5 和 3.6 版本將 “softly deprecate “ 「溫柔棄用」 async 和 wait 為變量名,而不將他們當(dāng)做語法錯(cuò)誤。解析器會跟蹤 async def 塊,并將塊內(nèi)的關(guān)鍵字區(qū)別對待,從而使現(xiàn)有的使用繼續(xù)有效。

新的特性中,異步還有兩種新用途:異步內(nèi)容管理器(with)和迭代器(for)。在協(xié)程里,這兩種構(gòu)造函數(shù)的示例如下:

    async def commit(session, data):
    ...

    async with session.transaction():
        ...
        await session.update(data)
        ...
        ...
        async for row in Cursor():
            print(row)

異步內(nèi)容管理器必須實(shí)現(xiàn)兩個(gè)異步方法,__aenter __()__aexit __(),他們都返回 awaitables;異步迭代器須實(shí)現(xiàn)__aiter __()__anext __()。這些方法都是現(xiàn)有的同步內(nèi)容管理器和迭代器的異步版本。

此前主要的討論是延期執(zhí)行的 “cofunction” 功能 PEP 3152 是否會是更好的起點(diǎn),該 PEP 的作者 Greg Ewing 提出了此問題。但有很多人認(rèn)為 Selivanov 提議的語法更適合 codef,cocall ,也有人更加贊同 Ewing 的提議。這樣來來回回的爭論了很多次。有一些人認(rèn)為cofunction 的語法在處理某些情況時(shí)相當(dāng)復(fù)雜并且不符合 Python 語言的特性。后來 Van Rossum 總結(jié)了 cofunctions 語法存在的問題,并拒絕采納該方法。

此外,還有幾點(diǎn)關(guān)于附加異步功能的建議值得討論,但并不緊急。對于關(guān)鍵詞的討論有些本末倒置。 await 的優(yōu)先級問題也討論了一段時(shí)間,結(jié)果是,不同于 yeild 和 yeild from 僅有最低優(yōu)先級,await 具有較高的優(yōu)先級。

但 Mark Shannon 抱怨說,實(shí)現(xiàn) Selivanov 的建議并不需要增加新的語法。其他人也提出了類似的意見,但 Selivanov 或其他支持者并未對此提出反駁。關(guān)鍵在于簡化協(xié)同程序的編寫。除此之外,Van Rossum 希望協(xié)同程序暫停的位置能夠顯而易見,查看代碼就能發(fā)現(xiàn):

新的語法才是 PEP 存在的意義。我希望通過句法結(jié)構(gòu)就能判斷出協(xié)程的懸停點(diǎn)。

在兩三周后,發(fā)布了多個(gè)版本的 PEP ,引起了諸多辯論。Selivanov 耐心地解釋他的想法,并根據(jù)反饋意見不斷修正自己的想法。異步協(xié)程特性對 Python 語言的未來很可能至關(guān)重要,整個(gè)探索過程都很快,很順?biāo)臁2贿^,Python 開發(fā)者們將這些想法付諸實(shí)踐很可能還需要一段時(shí)間。

原文地址:Python coroutines with async and await

參考文章: 對Python中yield和協(xié)程的理解

本文系 OneAPM 工程師翻譯。OneAPM 是應(yīng)用性能管理領(lǐng)域的新興領(lǐng)軍企業(yè),能幫助企業(yè)用戶和開發(fā)者輕松實(shí)現(xiàn):緩慢的程序代碼和 SQL 語句的實(shí)時(shí)抓取。想閱讀更多技術(shù)文章,請?jiān)L問 OneAPM 官方博客。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容