大規模最適化問題、グラフ探索、機械学習やデジタルツインなど

旧名:最適化問題に対する超高速&安定計算

2010-06-23から1日間の記事一覧

SDPA (long int = 64bit) 化

SDPA の 64bit化というのは、64bit OS 上で 64bit アドレッシングを使うということではなくて(これはすでに対応済み)、ベクトル(行列)の index の変数を int (32bit) から long int(64bit) に変更するという意味になる。 SDPA 7.3.2 と SDPA 7.3.2(64bit) の…