大規模最適化問題、グラフ探索、機械学習やデジタルツインなど

旧名:最適化問題に対する超高速&安定計算

2010-03-01から1ヶ月間の記事一覧

PowerEdge Cシリーズサーバ&PowerEdge M910

Dell のサーバシリーズに PowerEdge Cシリーズが加わった。例えば PowerEdge C6100 の場合では、2U に2ソケットサーバを4ノードまで収容可能とのことなので、例えば 10U では、CPU が 5 x 2 x 4 = 40 個搭載できる。一方、ブレードサーバだと、PowerEdge M…

某スパコンと SDPARA その7

二週間に及ぶスパコンでの実行が終了した。未解決問題の幾つかを解決することが出来たので成功ではあるが、同時に今後の課題も判明した。今回解くことが出来た巨大な SDP のデータ特性は以下の通り。この問題は大き過ぎて、こちらのクラスタ計算機では解くこ…

情報システムで役立つ最適化問題 再掲載

3月27日に SCOPE 研究会を行ったが、そこで議論になって点を踏まえて以下の記事を再掲載しておく。このような最適化問題に興味を持っている方は多いと思うが、これらに取り組むためには情報システム等の知識が多数必要で、その辺がネックとなっているのでは…

日本数学会 2010年度年会・市民講演会 再掲載

いよいよ本日となりましたので再掲載します。とは言っても私自身はすでに別の用事が入っておりますので、以下の講演会には参加しません。対象は中学生から大人までという内容だそうです。 日本数学会 2010年度年会・市民講演会 日時: 2010年3月2…

統数研と富士通スパコン

統計数理研究所(統数研)は昨年秋に広尾から立川へ移転しているが、建物の地下に以下の富士通製スパコンが設置されている。非常に高性能なスパコンとは言え、性能的には特筆するほどのものではないのかもしれないが、注目は Intel Xeon X5570(2.93GHz)を…

某スパコンと SDPARA その6

まだ某スパコンの使用期間は終わっていないので実験を継続中だが、当初の大きな目標の中の一つは達成することができた。それと同時にやり方と工夫によっては、かなり大きな問題も SDPA クラスタで解くことができることが判明した。論文等の問題があるので、…

某スパコンと SDPARA その5

以前の SDPARA の論文(計算機環境は今日と大きく異なるが)や近日中に発表する SDPARA の論文では、 1:Schur complement 行列の計算(F1, F2, F3 式)は scale up しやすい 2:Parallel Cholesky 分解(ScaLAPACK による)は、1と比べると scale up しない。 …

新クラスタ計算機

大学のセンターに大規模なスパコンが本当に必要かは議論が要るところで、プロジェクト別、目的別に必要な規模の計算機を揃えた方が効率的で省電力ということも考えられるだろう。個人的には計算需要が多いので増設したいところだが、新しいクラスタ計算機を…

Eucalyptus とオンライン・ソルバー

以前から考えているオンライン・ソルバーに関する構想で、 1: 実マシン内で計算機資源をなるべく競合しないように、複数の最適化ソフトウェアを実行する(いままでいろいろと試してきた通り)。 2: 多少性能が落ちても、最適化ソフトウェアの実行毎に仮想マ…

某スパコンと SDPARA その4

別の問題で両計算機の性能を比較してみたが、やはり速度差は2倍程度になる。それはともかく、スパコンで実行と言っても通常の計算サーバのように使っているユーザが多いようだ。つまり並列化されていない(せいぜいスレッド並列ぐらい)ソフトウェアを大量…

某スパコンと SDPARA その3

某スパコンと同時に研究室のクラスタ計算機もフル稼働状態になっている。先日も報告したように意外とスパコンとクラスタ計算機の速度差が無いのだが、スパコン側ではノード数が多いので、ノード数 x メモリ量の値が大きくなり非常に大きな問題を解くことがで…

平成22年度 第1回 SCOPE 研究会 再掲載

開催が1週間後になりましたので再掲載します。今後は参加者のために託児所も必要かもしれません。本当にいろいろとありましたが、2009 年度ももうすぐ終わります。しかし、日本OR学会では3月から新年度なので以下は 2010 年度の行事になります。以下のご講…

某スパコンと SDPARA その2

某スパコンと言っても下記の仕様を見れば、わかる人にはどこのスパコンなのかわかるだろうが、一つだけ実験結果を載せておく。CPU のクロック周波数等が異なるが、使用しているコア数が 2048/128 = 16倍になって、実行時間がたかだか2倍程度にしか速くなら…

SCOPE@つくば -未来を担う若手研究者の集い2010-

SCOPE@つくば -未来を担う若手研究者の集い2010- の日時と場所が確定致しました。少し蒸し暑くなってくる頃ですが、会場は広い場所を確保致しましたので、狭苦しさや暑苦しさは無いと思います。一般講演や表彰については昨年とほぼ同じですが、特別企画につ…

某スパコンと SDPARA

先方のご厚意により、某スパコンをしばらく大規模に使用できることになったので、現在いろいろと試している。スパコンの使用には慣れているつもりだったが、やはりご当地によって環境等が異なるので、使えるようになるまでは少し時間がかかった。いろいろと…

応用に役立つ50の最適化問題 FAQ

これまでに 応用最適化シリーズ3”応用に役立つ50の最短路問題”について幾つか問い合わせがありましたので、可能な範囲でお答えします。 1: 応用最適化シリーズ3となっていますが、4巻目以降はいつ出ますか? どのような内容になるのでしょうか? ○これ…

SDPA と msp の同時実行 まとめ

3回ほど SDPA と msp の同時実行について扱った。これから最適化オンライン・ソルバーの拡張を行っていくのだが、複数の最適化問題を同時に扱うときに現状ではジョブマネージャー(TORQUE)を用いている。これからクラウドなどで実行する場合には、一つの最適…

SDPA と msp の同時実行 その3

前回の”その2”で行った実験を今度は SDPA と msp 用に仮想マシンを用意して行う。計算サーバは同じものを用いる。実マシンよりも多少性能は落ちるのだが、numactl で正しく指定すると同時に実行しても、あまり性能低下は見られない。 ○仮想マシン1(SDPA用)…

SDPA と msp の同時実行 その2

前回と同じ実験を以下の AMD Instanbul 4-way マシンで行ってみたが、やはり適切に numactl を指定すれば、同時にソフトウェアを動かしても性能差がほとんど見られない。 ○計算サーバ CPU : AMD Opteron 8439 (2.80GHz / 6MB L3) x 4 (24コア) Memory : 128G…

IBM プライベート・クラウド構築セミナー

3月10日に IBM プライベート・クラウド構築セミナーに参加した。IBM の POWER7 搭載のブレード上に仮想マシンを用いて複数のサーバを構築、運用しようというのが、プライベート・クラウドの基本技術になっている。POWER7 にはいろいろな種類があるのだが、例…

SDPA と msp の同時実行

SDPA 7.3.2 と msp(最短路問題) 0.21 のソルバーを同時に実行して、性能の差を計測してみた。以下の実験では SDPA の実行を CPU 0, msp の実行は CPU 1 で行っているのだが、両者を同時に実行しても性能の劣化は見られない。 ○計算サーバ CPU : Intel Xeon 5…

SDPARA 7.3.1 と 7.3.2 その3

SDPARA 7.3.1 と 7.3.2 についていろいろと調査中だが(当然ながら実装方法が異なるので)、いつものベンチマーク問題以外にも幾つか選別して数値実験を行ってみた。そろそろ次期バージョンを目指して開発を開始したい。 ○ SDPA クラスタ 16 Nodes, 32 CPUs,…

SDPARA 7.3.1 と 7.3.2 その2

先日 CPU が Barcelona で OS が RedHat Ver.4 だったりすると SDPARA 7.3.2 の性能が発揮できないと書いたのだが、実際に試してみると SDPARA 7.3.1 よりも SDPARA 7.3.2 の方がわずかに性能が良かったので、この環境でも SDPARA 7.3.2 の方を採用すること…

メールサーバ

また、メールサーバの調子が悪いようで、送信後の何時間も後に不着というメッセージが返ってきます。最近送った幾つかのメールが不着になっている可能性があります。やはり、自分のところで正式にメールサーバを構築した方が良いかもしれません。

SDPARA 7.3.1 と 7.3.2 と水分子

水分子の巨大な SDP に対して、SDPARA 7.3.2 では少しだけ高速化することができた。まだまだいけそうなので、13時間を切ることも可能かもしれない。 問題名 : H2O.1A1.DZ.pqgt1t2p.dat-s SDPARA 7.3.1 16プロセス x 8スレッド : 49917.4s(37反復 : pdOPT) …

SDPARA 7.3.1 と 7.3.2

SDPARA も改造を行って 7.3.2βを作成した。以下のように 7.3.1 よりも少しだけ性能が上がっているのだが、某スパコンのように CPU が Barcelona で OS が RedHat Ver.4 だったりすると 7.3.2 の性能が発揮できないので、その場合は 7.3.1 と性能は変わらない…

SCOPE つくば合宿

来年度の SCOPE つくば合宿は例年よりも約1ヶ月遅くなりまして 6月26日(土)と27日(日)の予定で準備を進めております。参加を予定されている方はこの2日間のスケジュールの調整をお願い致します。昨年度は幸いにも参加者が増えまして会場等が手狭になりまし…

Ununtu 7.10 -> 8.04 -> 8.10 -> 9.04 -> 9.10

手元の Ubuntu 7.10 を4回アップグレードして、9.10 まで version を上げることができた。基本的には、以下の操作を行うだけである。 1:[システム] - [システム管理] - [ソフトウェア・ソース] でアップデートのアップグレードリリースを[通常リリース版…

DNN (Doubly Non-Negative) 緩和と SDPA

DNN (Doubly Non-Negative) 緩和による SDP は、mDIM (つまり Schur complement matrix) のサイズが大きくなる。よって、SDPA の計算の中では F3 式とコレスキー分解の時間が占める割合が非常に大きくなる。しかし最新の SDPA(SDPARA)では、F3 式の計算部分…

平成22年度 第1回 SCOPE 研究会

3月から新年度になりますので、3月27日に平成22年度の第1回研究会を開催致します。題材は”大規模情報システムと最適化”ということで、OR系、最適化系では珍しい内容を扱います。年度末のお忙しい時期ではございますが、よろしくご参集下さい。 2010年…