Co-authored-by: 李铭昕 <715557344@qq.com>
21 KiB
協程
概念
Hyperf 是運行於 Swoole 4
的協程和 Swow
協程之上的,這也是 Hyperf 能提供高效能的其中一個很大的因素。
PHP-FPM 的運作模式
在聊協程是什麼之前,我們先聊聊傳統 PHP-FPM
架構的運作模式,PHP-FPM
是一個多程序的 FastCGI
管理程式,是絕大多數 PHP
應用所使用的執行模式。假設我們使用 Nginx
提供 HTTP
服務(Apache
同理),所有客戶端發起的請求最先抵達的都是 Nginx
,然後 Nginx
通過 FastCGI
協議將請求轉發給 PHP-FPM
處理,PHP-FPM
的 Worker 程序
會搶佔式的獲得 CGI 請求進行處理,這個處理指的就是,等待 PHP
指令碼的解析,等待業務處理的結果返回,完成後回收子程序,這整個的過程是阻塞等待的,也就意味著 PHP-FPM
的程序數有多少能處理的請求也就是多少,假設 PHP-FPM
有 200
個 Worker 程序
,一個請求將耗費 1
秒的時間,那麼簡單的來說整個伺服器理論上最多可以處理的請求也就是 200
個,QPS
即為 200/s
,在高併發的場景下,這樣的效能往往是不夠的,儘管可以利用 Nginx
作為負載均衡配合多臺 PHP-FPM
伺服器來提供服務,但由於 PHP-FPM
的阻塞等待的工作模型,一個請求會佔用至少一個 MySQL
連線,多節點高併發下會產生大量的 MySQL
連線,而 MySQL
的最大連線數預設值為 100
,儘管可以修改,但顯而易見該模式沒法很好的應對高併發的場景。
非同步非阻塞系統
在高併發的場景下,非同步非阻塞就顯得優勢明顯了,直觀的優點表現就是 Worker 程序
不再同步阻塞的去處理一個請求,而是可以同時處理多個請求,無需 I/O
等待,併發能力極強,可以同時發起或維護大量的請求。那麼最直觀的缺點大家可能也都知道,就是永無止境的回撥,業務邏輯必須在對應的回撥函式內實現,如果業務邏輯存在多次的 I/O
請求,則會存在很多層的回撥函式,下面示例一段 Swoole 1.x
下的非同步回撥型的虛擬碼片段。
$db = new swoole_mysql();
$config = array(
'host' => '127.0.0.1',
'port' => 3306,
'user' => 'test',
'password' => 'test',
'database' => 'test',
);
$db->connect($config, function ($db, $r) {
// 從 users 表中查詢一條資料
$sql = 'select * from users where id = 1';
$db->query($sql, function(swoole_mysql $db, $r) {
if ($r !== false) {
// 查詢成功後修改一條資料
$updateSql = 'update users set name="new name" where id = 1';
$db->query($updateSql, function (swoole_mysql $db, $r) {
$rows = $db->affected_rows;
if ($r === true) {
return $this->response->end('更新成功');
}
});
}
$db->close();
});
});
注意
MySQL
等非同步模組已在4.3.0中移除,並轉移到了swoole_async。
從上面的程式碼片段可以看出,每一個操作幾乎就需要一個回撥函式,在複雜的業務場景中回撥的層次感和程式碼結構絕對會讓你崩潰,其實不難看出這樣的寫法有點類似 JavaScript
上的非同步方法的寫法,而 JavaScript
也為此提供了不少的解決方案(當然方案是源於其它程式語言),如 Promise
,yield + generator
, async/await
,Promise
則是對回撥的一種封裝方式,而 yield + generator
和 async/await
則需要在程式碼上顯性的增加一些程式碼語法標記,這些相對比回撥函式來說,不妨都是一些非常不錯的解決方案,但是你需要另花時間來理解它的實現機制和語法。
Swoole
協程也是對非同步回撥的一種解決方案,在 PHP
語言下,Swoole
協程與 yield + generator
都屬於協程的解決方案,協程的解決方案可以使程式碼以近乎於同步程式碼的書寫方式來書寫非同步程式碼,顯性的區別則是 yield + generator
的協程機制下,每一處 I/O
操作的呼叫程式碼都需要在前面加上 yield
語法實現協程切換,每一層呼叫都需要加上,否則會出現意料之外的錯誤,而 Swoole
協程的解決方案對比於此就高明多了,在遇到 I/O
時底層自動的進行隱式協程切換,無需新增任何的額外語法,無需在程式碼前加上 yield
,協程切換的過程無聲無息,極大的減輕了維護非同步系統的心智負擔。
協程是什麼?
我們已經知道了協程可以很好的解決非同步非阻塞系統的開發問題,那麼協程本身到底是什麼呢?從定義上來說,協程是一種輕量級的執行緒,由使用者程式碼來排程和管理,而不是由作業系統核心來進行排程,也就是在使用者態進行。可以直接的理解為就是一個非標準的執行緒實現,但什麼時候切換由使用者自己來實現,而不是由作業系統分配 CPU
時間決定。具體來說,Swoole
的每個 Worker 程序
會存在一個協程排程器來排程協程,協程切換的時機就是遇到 I/O
操作或程式碼顯性切換時,程序內以單執行緒的形式執行協程,也就意味著一個程序內同一時間只會有一個協程在執行且切換時機明確,也就無需處理像多執行緒程式設計下的各種同步鎖的問題。
單個協程內的程式碼執行仍是序列的,放在一個 HTTP 協程服務上來理解就是每一個請求是一個協程,舉個例子,假設為 請求 A
建立了 協程 A
,為 請求 B
建立了 協程 B
,那麼在處理 協程 A
的時候程式碼跑到了查詢 MySQL
的語句上,這個時候 協程 A
則會觸發協程切換,協程 A
就繼續等待 I/O
裝置返回結果,那麼此時就會切換到 協程 B
,開始處理 協程 B
的邏輯,當又遇到了一個 I/O
操作便又觸發協程切換,再回過來從 協程 A
剛才切走的地方繼續執行,如此反覆,遇到 I/O
操作就切換到另一個協程去繼續執行而非一直阻塞等待。
這裡可以發現一個問題就是:在 協程 A
中的 MySQL
查詢操作必須得是一個非同步非阻塞的操作,否則會由於阻塞導致協程排程器沒法切換到另一個協程繼續執行,這個也是要在協程程式設計下需要規避的問題之一。
協程與普通執行緒有哪些區別?
都說協程是一個輕量級的執行緒,協程和執行緒都適用於多工的場景下,從這個角度上來說,協程與執行緒很相似,都有自己的上下文,可以共享全域性變數,但不同之處在於,在同一時間可以有多個執行緒處於執行狀態,但對於 Swoole
協程來說只能有一個,其它的協程都會處於暫停的狀態。此外,普通執行緒是搶佔式的,哪個執行緒能得到資源由作業系統決定,而協程是協作式的,執行權由使用者態自行分配。
協程程式設計注意事項
不能存在阻塞程式碼
協程內程式碼的阻塞會導致協程排程器無法切換到另一個協程繼續執行程式碼,所以我們絕不能在協程記憶體在阻塞程式碼,假設我們啟動了 4
個 Worker
來處理 HTTP
請求(通常啟動的 Worker
數量與 CPU
核心數一致或 2
倍),如果程式碼中存在阻塞,暫且理論的認為每個請求都會阻塞 1
秒,那麼系統的 QPS
也將退化為 4/s
,這無疑就是退化成了與 PHP-FPM
類似的情況,所以我們絕對不能在協程中存在阻塞程式碼。
那麼到底哪些是阻塞程式碼呢?我們可以簡單的認為絕大多數你所熟知的非 Swoole
提供的非同步函式的 MySQL
、Redis
、Memcache
、MongoDB
、HTTP
、Socket
等客戶端,檔案操作、sleep/usleep
等均為阻塞函式,這幾乎涵蓋了所有日常操作,那麼要如何解決呢?Swoole
提供了 MySQL
、PostgreSQL
、Redis
、HTTP
、Socket
的協程客戶端可以使用,同時 Swoole 4.1
之後提供了一鍵協程化的方法 \Swoole\Runtime::enableCoroutine()
,只需在使用協程前執行這一行程式碼,Swoole
會將 所有使用 php_stream
進行 socket
操作均變成協程排程的非同步 I/O
,可以理解為除了 curl
絕大部分原生的操作都可以適用,關於此部分可查閱 Swoole 文件 獲得更具體的資訊。
在 Hyperf
中我們已經為您處理好了這一切,您只需關注 \Swoole\Runtime::enableCoroutine()
仍無法協程化的阻塞程式碼即可。
不能通過全域性變數儲存狀態
在 Swoole
的持久化應用下,一個 Worker
內的全域性變數是 Worker
內共享的,而從協程的介紹我們可以知道同一個 Worker
內還會存在多個協程並存在協程切換,也就意味著一個 Worker
會在一個時間週期內同時處理多個協程(或直接理解為請求)的程式碼,也就意味著如果使用了全域性變數來儲存狀態可能會被多個協程所使用,也就是說不同的請求之間可能會混淆資料,這裡的全域性變數指的是 $_GET/$_POST/$_REQUEST/$_SESSION/$_COOKIE/$_SERVER
等$_
開頭的變數、global
變數,以及 static
靜態屬性。
那麼當我們需要使用到這些特性時應該怎麼辦?
對於全域性變數,均是跟隨著一個 請求(Request)
而產生的,而 Hyperf
的 請求(Request)/響應(Response)
是由 hyperf/http-message 通過實現 PSR-7 處理的,故所有的全域性變數均可以在 請求(Request)
物件中得到相關的值;
對於 global
變數和 static
變數,在 PHP-FPM
模式下,本質都是存活於一個請求生命週期內的,而在 Hyperf
內因為是 CLI
應用,會存在 全域性週期
和 請求週期(協程週期)
兩種長生命週期。
- 全域性週期,我們只需要建立一個靜態變數供全域性呼叫即可,靜態變數意味著在服務啟動後,任意協程和程式碼邏輯均共享此靜態變數內的資料,也就意味著存放的資料不能是特別服務於某一個請求或某一個協程;
- 協程週期,由於
Hyperf
會為每個請求自動建立一個協程來處理,那麼一個協程週期在此也可以理解為一個請求週期,在協程內,所有的狀態資料均應存放於Hyperf\Utils\Context
類中,通過該類的get
、set
來讀取和儲存任意結構的資料,這個Context(協程上下文)
類在執行任意協程時讀取或儲存的資料都是僅限對應的協程的,同時在協程結束時也會自動銷燬相關的上下文資料。
最大協程數限制
對 Swoole Server
通過 set
方法設定 max_coroutine
引數,用於配置一個 Worker
程序最多可存在的協程數量。因為隨著 Worker
程序處理的協程數目的增加,其對應占用的記憶體也會隨之增加,為了避免超出 PHP
的 memory_limit
限制,請根據實際業務的壓測結果設定該值,Swoole
的預設值為 100000
( Swoole
版本小於 v4.4.0-beta
時預設值為 3000
), 在 hyperf-skeleton
專案中預設設定為 100000
。
使用協程
建立一個協程
只需通過 co(callable $callable)
或 go(callable $callable)
函式或 Hyperf\Utils\Coroutine::create(callable $callable)
即可建立一個協程,協程內可以使用協程相關的方法和客戶端。
判斷當前是否處於協程環境內
在一些情況下我們希望判斷一些當前是否運行於協程環境內,對於一些相容協程環境與非協程環境的程式碼來說會作為一個判斷的依據,我們可以通過 Hyperf\Utils\Coroutine::inCoroutine(): bool
方法來得到結果。
獲得當前協程的 ID
在一些情況下,我們需要根據 協程 ID
去做一些邏輯,比如 協程上下文
之類的邏輯,可以通過 Hyperf\Utils\Coroutine::id(): int
獲得當前的 協程 ID
,如不處於協程環境下,會返回 -1
。
Channel 通道
類似於 Go
語言的 chan
,Channel
可為多生產者協程和多消費者協程模式提供支援。底層自動實現了協程的切換和排程。 Channel
與 PHP
的陣列類似,僅佔用記憶體,沒有其他額外的資源申請,所有操作均為記憶體操作,無 I/O
消耗,使用方法與 SplQueue
佇列類似。
Channel
主要用於協程間通訊,當我們希望從一個協程裡返回一些資料到另一個協程時,就可通過 Channel
來進行傳遞。
主要方法:
Channel->push
:當佇列中有其他協程正在等待pop
資料時,自動按順序喚醒一個消費者協程。當佇列已滿時自動yield
讓出控制權,等待其他協程消費資料Channel->pop
:當佇列為空時自動yield
,等待其他協程生產資料。消費資料後,佇列可寫入新的資料,自動按順序喚醒一個生產者協程。
下面是一個協程間通訊的簡單例子:
<?php
co(function () {
$channel = new \Swoole\Coroutine\Channel();
co(function () use ($channel) {
$channel->push('data');
});
$data = $channel->pop();
});
Defer 特性
當我們希望在協程結束時執行一些程式碼時,可以通過 defer(callable $callable)
函式或 Hyperf\Coroutine::defer(callable $callable)
將一段函式以 棧(stack)
的形式儲存起來,棧(stack)
內的函式會在當前協程結束時以 先進後出
的流程逐個執行。
WaitGroup 特性
WaitGroup
是基於 Channel
衍生出來的一個特性,如果接觸過 Go
語言,我們都會知道 WaitGroup
這一特性,在 Hyperf
裡,WaitGroup
的用途是使得主協程一直阻塞等待直到所有相關的子協程都已經完成了任務後再繼續執行,這裡說到的阻塞等待是僅對於主協程(即當前協程)來說的,並不會阻塞當前程序。
我們通過一段程式碼來演示該特性:
<?php
$wg = new \Hyperf\Utils\WaitGroup();
// 計數器加二
$wg->add(2);
// 建立協程 A
co(function () use ($wg) {
// some code
// 計數器減一
$wg->done();
});
// 建立協程 B
co(function () use ($wg) {
// some code
// 計數器減一
$wg->done();
});
// 等待協程 A 和協程 B 執行完成
$wg->wait();
注意
WaitGroup
本身也需要在協程內才能使用
Parallel 特性
Parallel
特性是 Hyperf 基於 WaitGroup
特性抽象出來的一個更便捷的使用方法,我們通過一段程式碼來演示一下。
<?php
use Hyperf\Utils\Exception\ParallelExecutionException;
use Hyperf\Utils\Coroutine;
use Hyperf\Utils\Parallel;
$parallel = new Parallel();
$parallel->add(function () {
sleep(1);
return Coroutine::id();
});
$parallel->add(function () {
sleep(1);
return Coroutine::id();
});
try{
// $results 結果為 [1, 2]
$results = $parallel->wait();
} catch(ParallelExecutionException $e){
// $e->getResults() 獲取協程中的返回值。
// $e->getThrowables() 獲取協程中出現的異常。
}
注意
Hyperf\Utils\Exception\ParallelExecutionException
異常僅在 1.1.6 版本和更新的版本下會丟擲
通過上面的程式碼我們可以看到僅花了 1
秒就得到了兩個不同的協程的 ID
,在呼叫 add(callable $callable)
的時候 Parallel
類會為之自動建立一個協程,並加入到 WaitGroup
的排程去。
不僅如此,我們還可以通過 parallel(array $callables)
函式進行更進一步的簡化上面的程式碼,達到同樣的目的,下面為簡化後的程式碼。
<?php
use Hyperf\Utils\Coroutine;
// 傳遞的陣列引數您也可以帶上 key 便於區分子協程,返回的結果也會根據 key 返回對應的結果
$result = parallel([
function () {
sleep(1);
return Coroutine::id();
},
function () {
sleep(1);
return Coroutine::id();
}
]);
注意
Parallel
本身也需要在協程內才能使用
限制 Parallel 最大同時執行的協程數
當我們新增到 Parallel
裡的任務有很多時,假設都是一些請求任務,那麼一瞬間發出全部請求很有可能會導致對端服務因為一瞬間接收到了大量的請求而處理不過來,有宕機的風險,所以需要對對端進行適當的保護,但我們又希望可以通過 Parallel
機制來加速這些請求的耗時,那麼可以通過在例項化 Parallel
物件時傳遞第一個引數,來設定最大執行的協程數,比如我們希望最大設定的協程數為 5
,也就意味著 Parallel
裡最多隻會有 5
個協程在執行,只有當 5
個裡有協程完成結束後,後續的協程才會繼續啟動,直至所有協程完成任務,示例程式碼如下:
use Hyperf\Utils\Exception\ParallelExecutionException;
use Hyperf\Utils\Coroutine;
use Hyperf\Utils\Parallel;
$parallel = new Parallel(5);
for ($i = 0; $i < 20; $i++) {
$parallel->add(function () {
sleep(1);
return Coroutine::id();
});
}
try{
$results = $parallel->wait();
} catch(ParallelExecutionException $e){
// $e->getResults() 獲取協程中的返回值。
// $e->getThrowables() 獲取協程中出現的異常。
}
Concurrent 協程執行控制
Hyperf\Utils\Coroutine\Concurrent
基於 Swoole\Coroutine\Channel
實現,用來控制一個程式碼塊內同時執行的最大協程數量的特性。
以下樣例,當同時執行 10
個子協程時,會在迴圈中阻塞,但只會阻塞當前協程,直到釋放出一個位置後,迴圈繼續執行下一個子協程。
<?php
use Hyperf\Utils\Coroutine\Concurrent;
$concurrent = new Concurrent(10);
for ($i = 0; $i < 15; ++$i) {
$concurrent->create(function () {
// Do something...
});
}
協程上下文
由於同一個程序內協程間是記憶體共享的,但協程的執行/切換是非順序的,也就意味著我們很難掌控當前的協程是哪一個**(事實上可以,但通常沒人這麼幹)**,所以我們需要在發生協程切換時能夠同時切換對應的上下文。
在 Hyperf
裡實現協程的上下文管理將非常簡單,基於 Hyperf\Utils\Context
類的 set(string $id, $value)
、get(string $id, $default = null)
、has(string $id)
、override(string $id, \Closure $closure)
靜態方法即可完成上下文資料的管理,通過這些方法設定和獲取的值,都僅限於當前的協程,在協程結束時,對應的上下文也會自動跟隨釋放掉,無需手動管理,無需擔憂記憶體洩漏的風險。
Hyperf\Utils\Context::set()
通過呼叫 set(string $id, $value)
方法儲存一個值到當前協程的上下文中,如下:
<?php
use Hyperf\Utils\Context;
// 將 bar 字串以 foo 為 key 儲存到當前協程上下文中
$foo = Context::set('foo', 'bar');
// set 方法會再將 value 作為方法的返回值返回回來,所以 $foo 的值為 bar
Hyperf\Utils\Context::get()
通過呼叫 get(string $id, $default = null)
方法可從當前協程的上下文中取出一個以 $id
為 key
儲存的值,如不存在則返回 $default
,如下:
<?php
use Hyperf\Utils\Context;
// 從當前協程上下文中取出 key 為 foo 的值,如不存在則返回 bar 字串
$foo = Context::get('foo', 'bar');
Hyperf\Utils\Context::has()
通過呼叫 has(string $id)
方法可判斷當前協程的上下文中是否存在以 $id
為 key
儲存的值,如存在則返回 true
,不存在則返回 false
,如下:
<?php
use Hyperf\Utils\Context;
// 從當前協程上下文中判斷 key 為 foo 的值是否存在
$foo = Context::has('foo');
Hyperf\Utils\Context::override()
當我們需要做一些複雜的上下文處理,比如先判斷一個 key
是否存在,如果存在則取出 value
來再對 value
進行某些修改,然後再將 value
設定回上下文容器中,此時會有比較繁雜的判斷條件,可直接通過呼叫 override
方法來實現這個邏輯,如下:
<?php
use Psr\Http\Message\ServerRequestInterface;
use Hyperf\Utils\Context;
// 從協程上下文取出 $request 物件並設定 key 為 foo 的 Header,然後再儲存到協程上下文中
$request = Context::override(ServerRequestInterface::class, function (ServerRequestInterface $request) {
return $request->withAddedHeader('foo', 'bar');
});
Swoole Runtime Hook Level
框架在入口函式中提供了 SWOOLE_HOOK_FLAGS
常量,如果您需要修改整個專案的 Runtime Hook
等級,比如想要支援 CURL 協程
並且 Swoole
版本為 v4.5.4
之前的版本,可以修改這裡的程式碼,如下。
<?php
! defined('SWOOLE_HOOK_FLAGS') && define('SWOOLE_HOOK_FLAGS', SWOOLE_HOOK_ALL | SWOOLE_HOOK_CURL);
!> 如果 Swoole 版本 >= v4.5.4
,不需要做任何修改。