読者です 読者をやめる 読者になる 読者になる

CDH

CDH5.4.0 でのMRジョブの圧縮設定

MapReduceのGateway設定 mapred.output.compress mapred.output.compression.codec mapred.compress.map.output mapred.map.output.compression.codecHiveのGateway設定 hive-site.xml の安全バルブに以下を追記 <property> <name>hive.exec.compress.output</name> <value>true</value> </property>以上を設定…

cloudera manager のアラート設定

CDH

「管理 > アラート」を開くとアラートの有効、無効の一覧が出てくる。 右側のアラート対象一覧に表示されているスパナマークをクリックすると、それぞれのアラートの設定画面に飛ぶ。 アラート設定は、各サービス全体やロールの設定の「監視中」というタブで…

Cloudera Managerのリソースモニタ機能

CDH

何気にだんだん充実してきているようだ。そろそろ ganglia 入れなくてもよいかも。 以下、5.1.2で確認。まずホーム画面を開くと、右にクラスタ全体でのCPU利用率やディスクI/Oが出ている。 更に、クラスタメニューの「静的サービスプール」を選ぶと、そのク…

CDH4 + Cloudera Manager + parcel の環境でプロセスを手動で起動・停止する

CDH

普通は Cloudera Manager を使うのだが、こないだ Cloudera Manager が動いているサーバが落ちた時、とりあえずプロセスたちを落としておきたくて調べた。 CDHのプロセスはsupervisordで管理されている。 で、supervisorctl は /usr/lib64/cmf/agent/build/e…

CDH4.3.0 にUpgradeしたら、やっぱそれなりにいろいろありました。

CDH

・HueのConfigチェックの画面で500になり、ログを見たら”'ascii' codec can't decode byte 0xe8”とか出てた。https://issues.cloudera.org/browse/HUE-1313ここに貼付されてるパッチを以下に適用したら治った。/opt/cloudera/parcels/CDH-4.3.0-1.cdh4.3.0.p…

CDH4 oozieのバグ?

CDH4.1.2oozieでいくつかworkflowを作ってから「アプリケーションのセットアップ」をすると、自作workflowの「所有者」がなぜか「sample」になってしまい、workflowを保存する時にエラーがでるようになった・・・workflowをコピーして作りなおしたら出なくな…