自由視点画像生成とは,あるシーンを複数の地点から撮影した画像群を入力として,任意の視点(仮想視点)からの見えを再現した画像を生成する技術である.この技術は,遠隔地のシーンを仮想的に体感できるテレプレゼンス等のアプリケーションでの活用が期待されている.
自由視点画像を生成する代表的な手法に視点依存テクスチャマッピングがある.この手法では,3次元形状に対応するテクスチャとして仮想視点に最も近い入力視点の画像を適応的に貼り付けることで,仮想視点からの見えを写実的に表現する.しかし,入力画像の画素値にばらつきが生じる場合,異なるテクスチャの境界においてテクスチャの不連続が生じる.この問題を解消するために,入力画像をブレンディングすることで境界領域のテクスチャを滑らかに変化させる手法があるが,3次元形状やカメラパラメータに誤差がある場合,複数の入力画像のテクスチャの投影位置に位置ずれが生じるため,これらがブレンディングされることで物体表面のテクスチャがぼける等の問題を生じる.
本研究では,視点依存テクスチャマッピングにおけるテクスチャ選択処理において,出力画像上でのテクスチャの連続性を考慮することで,ブレンディングすることなくテクスチャの不連続を抑止する手法を提案する.提案手法ではテクスチャ選択の基準として,従来から利用されてきた仮想視点と入力視点の見えの近さ,仮想視点から見た対象が各入力視点から見えているかを判断する可視判定の結果に加えて,テクスチャの連続性を考慮するために,生成される自由視点画像内の隣接する画素間の画素値の差分を,またテクスチャは形状のエッジで切り替わり易いと考え,MVSを用いて復元された対象の3次元形状のエッジを利用する.画素値の差分と3次元形状のエッジは隣接する画素に対して定義されることから,これらに関するエネルギー関数を設計し,この関数をグラフカットを用いて最小化することにより各画素でテクスチャとして利用する入力画像を選択する.最後に,各画素に対して局所的な輝度調整を行い,異なるテクスチャの境界付近に生じる輝度の不連続性を低減する.実験では,様々なパラメータで設定した提案手法のエネルギー関数で生成した自由視点画像の結果を比較し,各項の有効性を検証した上で輝度調整の効果を確認する.