本篇大綱： 什麼是 Coroutine (協程 / 微線程)? 使用 Python asyncio library 寫 Coroutine 一個簡單的範例 了解 async / await 語法糖 如何建立事件循環？ 如何建立任務 Task？ 如何同時運行多個 Tasks 任務？ 一. 什麼是 Coroutine (協程 / 微線程)? 先來看看 Python官方對 Coroutine 的解釋： Coroutines are a more generalized form of subroutines. Subroutines are entered at one point and exited at another point. Coroutines can be entered, ex […]
本篇大綱： 如何安裝串接 BigQuery 套件 如何設定 BigQuery 金鑰 & import 套件 了解 BigQuery 架構 建立 GCP Projects (專案) 建立 BigQuery Datasets (資料集) 建立 BigQuery Tables (資料表) 關於 BigQuery 價格 關於 BigQuery 其他延伸閱讀 ㄧ. 如何安裝串接 BigQuery 套件？ 在 console 終端機輸入指令： 套件說明： google-cloud-bigquery：是 Google Cloud Client Libraries 的 Python 程式庫 pyarrow：是將 pandas DataFrame 轉換成 BigQuery Table 的套件 參考文件 […]
一. 簡單的 Multi-processing pool 範例 使用 Python 標準庫內 multiprocessing 寫一個 multi-processing pool (多處理程序池 / 多進程池)，簡單的範例如下： 二. 建議使用處理程序 (process) 數量 可使用 multiprocessing.cpu_count() 或 os.cpu_count() 來獲取當前機器的 CPU 核心數量。 假設目前 CPU 是四核，那麼 process 設定如果超過 4 的話，代表有個核會同時運行 2 個以上的任務，而 CPU 之間程序處理會切換造成本進而降低處理效率，所以建議設置 process 時，最好等於當前機器的 CPU 核心數量。 三. 了解 pool 能調用的方法（met […]