Tech & Science 2018.01.30 22:33 Apache Airflow でタスクスケジューリングしてみた ~公式ドキュメントの読み解き方~ Airflow公式ドキュメントは難解。重要ポイントから先に読み解こう 前回、タスクスケジューラーの必要性とAirflowの概要やメリットについてご紹介しました。しかし、「とりあえず触ってみよう!」っと思ってもAirflow公式ドキュメント...
Tech & Science 2018.02.07 14:56 Apache Airflow でタスクスケジューリングしてみた ~タスク開発のポイント~ Airflowのタスク処理はPythonで開発すると便利 前回までは簡単なジョブ処理の作成・実行まででしたが、今回はちょっと応用編です。そのため、Pythonの基礎的なスキルが必要になりますが、Pythonを使うことで「やれること」も多くな...
Tech & Science 2018.02.24 13:36 Apache Airflow でタスクスケジューリングしてみた ~ログを退避させる~ 外部データベースに切り替えて負荷分散とリスク回避を行う 前回までは実際に開発した経験からAirflowのジョブ作成について説明しました。暫くしてから運用関係のご報告を...っと考えていたのですが、本番稼働してまだ1ヵ月ちょっとですが早くも...
Tech & Science 2020.02.10 09:06 Cloud Composer と GKE を活用して機械学習のワークフローを構築する GKE を効率的に使うために 弊社の機械学習基盤では、ワークフロー管理ツールとして Cloud Composer (Airflow) を利用しており、機械学習タスクは別の Google Kubernetes Engine (以下、 ...
Tech & Science 2020.04.13 08:07 機械学習基盤における Cloud Dataflow の活用 Cloud Dataflow の使い所 Cloud Dataflow は GCP で提供されているサービスの一つで、フルマネージドな環境で ETL 処理を実行することができます。バッチ処理とストリーミング処理を統一的に扱うことのでき...
Tech & Science 2014.05.13 08:57 回帰分析とその応用② ~重回帰分析 各種回帰分析の実施方法を解説 本連載では、回帰分析の実施方法について、5日間に渡り説明してまいります。第2回目の本日は、重回帰分析について説明していきます。 回帰分析における回帰直線の引き方 重回帰分析に入る前に、まず重回帰分析の理解...
Tech & Science 2014.08.06 09:03 ”R”で実践する統計分析|回帰分析編:②重回帰分析【外部寄稿】 Rによる回帰分析の実施手順を紹介 本日は、Rの使い方の実践として、「回帰分析」について紹介していきます。なお、回帰分析の理論については、こちらの特集内の【寄稿】回帰分析とその応用を参照ください。 『”R”で実践する統計分析|回帰分析...
Tech & Science 2015.05.23 09:01 「フルマネージド」クラウドサービス~第五回・クラウドサービスは「フルマネージド(Fully Managed)」へ~ 「フルマネージド(Fully Managed)のクラウドサービス」これからの展望 これまで四回に渡って「フルマネージド(Fully Managed)のクラウドサービス」について書かせていただきました。前々回・前回は「フルマネージドのアプリ...
Tech & Science 2015.06.11 14:35 最速!アプリ開発マニュアル「これだけ読めば、すぐにつくれる!」~Watsonをクラウドサービス「Bluemix」から使う(第二回) 20分で作るWatson連携アプリ 前回は連載第一回として「Watson・Bluemix・クラウド」の関係を簡単に説明させていただきました。その中で高度な質疑応答システムであるWatsonの機能をクラウドサービスのBluemixから利用で...
Tech & Science 2020.12.24 09:38 React + TypeScript + Cypress で始める E2E テスト この記事は GiXo アドベントカレンダー の 24 日目の記事です。昨日は、 React で作る中規模 SPA のレイヤードアーキテクチャ でした。 MLOps Div. の濱田です。本日は 12 月 24 日ですね。学校では期末...