西田宗千佳のRandomTracking

第638回

アドビの未来が見える「先行公開」。「Sneaks MAX」驚きの新技術

MAXのトリを飾るイベント「Sneaks MAX」

アドビのイベントの最後は、ある意味目玉である「Sneaks」だ。

同社で開発中の新機能を、ゲストのセレブリティとともに発表する場所にもなっている。

すべての機能がすぐに製品に搭載されるわけではないが、このところ「来年搭載される期待の大型新機能」がお披露目される場ともなっている。

その性質上、内容は動画で見た方がわかりやすいし、なにより楽しい。

本記事にはYouTubeで公開されたSneaks MAXの動画を軸に、機能の位置付けや現地での盛り上がりをお伝えする形で進めよう。

今回は、アドビのCreative CloudエヴァンジェリストであるPaul Traniと、女優でコメディアンのJessica Williamsが進行役を務めた。

進行役である、アドビのCreative CloudエヴァンジェリストであるPaul Trani氏(左)と、女優でコメディアンのJessica Williams(右)
アドビのシャンタヌ・ナラヤンCEO(左端)と記念撮影する、今年のSneaks出演者

なお、動画全編は以下から視聴できる。

それ以外は、同じ動画からそれぞれのプロジェクトを発表しているタイミングに頭出しした形で挿入している。

ベクター画像がプロンプトで動画化する「Project Motion Map」

1つ目は「Project Motion Map」。簡単に言えばアニメーションツールだ。

ベクターグラフィックに動きをつけることは多い。その場合には、動く場所と動きを指定し、場合によっては骨格とも言える「リグ」を組み込まなくてはならない。

だが「Project Motion Map」では、そうした作業は不要。「まばたきをする」「回る」「目でバイクを追う」といったプロンプトを仕込むことで、その通りのアニメーションができる。

動かしたいところにプロンプトを仕込むだけでアニメーションになる

さらには、チェス盤を描いたに「4手でゲーム終了」とプロンプトを入れると、実際に4手でチェックメイトするアニメーションになる。すなわち、絵全体がどういうものなのか、なにを示しているかを理解してアニメーション化が行われるのだ。

「4手でゲーム終了」とプロンプトを入れると、4手でチェックメイトするアニメを生成

言い間違いも騒音も文章で修正する「Project Clean Take」

「Project Clean Take」は音声を編集するツールだ。

「Project Clean Take」

話している最中に言い間違うと、通常はそこだけ音声を取り直したりする。だが「Project Clean Take」では、書き起こし文章を書き換えると、その内容に従って、録音された声の該当部分が合成される。「3年で」と話したところを「4年」と話したように書き換えられるわけだ。

間違った部分は取り直しせず「文章を修正」して音を作り直す

また、音声収録に騒音が乗った場合にも対応できる。収録を声・周囲の音などの種別でトラックを自動分割し、ノイズ部分だけを書き換えられる。音楽部分だけを「権利処理がされた似た曲」に変えたり、話す口調をはっきりとした話し方からヒソヒソ声に変えたりと、あらゆる修正を「撮り直しなし」で行える。

音の種別ごとにトラックに自動分割されるので、問題がある部分だけを修正できる

ワンクリックで「物体の表面」を編集する「Project Surface Swap」

「Project Surface Swap」は、その名の通り、写真に写っている物体の表面を編集する機能だ。

車の色を変える、といったことはもちろん、木でできた机を大理石の机に変えてしまったり、蔦が絡まる壁を「MAXロゴ」入りの壁に変えたり、といったことが可能になる。

車の色を、ボディの質感を活かして変更
机の素材を木材から大理石へ置き換え
壁だけを「MAX」の文字入りに入れ替え

2D編集感覚で3Dの現実空間を編集する「Project New Depth」

大量の写真から3D空間を再現する技術に「フォトグラメトリー」というものがある。

「Project New Depth」はその応用例。複雑な作業になる「フォトグラメトリーの3D空間」を、Photoshopでの2D画像編集のように簡便化する。

配置換えなどはもちろん、マウスで引っ張って形状を変えるなど、3Dデータになったことを意識させない操作が特徴だ。

フォトグラメトリーで3D化したデータの配置や色の変更を簡単に実現
形状も「選んで引っ張る」だけで変えられる

写真内のライトを変更可能にする「Project Light Touch」

写真に映った照明や影を編集するのは手間がかかるものだ。だが、「Project Light Touch」はそれを簡便化する。

照明の強さをかえると周囲への照り返しも変わり、位置を変えると光が当たる場所も変わる。

写真のうち照明の部分を選ぶと、光の強さを変えた写真を生成できる

さらにその応用として、「麦わら帽子から差し込む光とその影」も操作可能にする。光の入る方向を少し変えて、顔に落ちる影を目立たなくしてしまうのだ。

光の方向や強さを変えられるので、「麦わら帽子の影が顔に落ちる」様子も編集可能になる

さらにはライティングの位置を「かぼちゃの外」から「かぼちゃの中」に変えて、光るかぼちゃのランプにしてしまうことだって可能だ。

かぼちゃのランプを撮影した写真で、照明位置を「かぼちゃの中」に変えて雰囲気アップ

写真から3Dを扱う「Project Scene It」

3Dデータがあればいいが、実際にはなかなか用意できないもの。「Project Scene It」は、普通の写真から3Dデータを作り、空間に配置して「3Dデータで作ったようなリアルな画像」を作るツールだ。

画像から 3D への変換技術を活用し、オブジェクトのタグ付けし、必要な物体を空間に配置した画像を簡単に作り出すことができる。

用意するのは3Dデータではなく1枚の写真
そこから3Dデータを生成して空間に配置
生成AIを使って「3D空間に物体を配置した映像」を生成

次世代の生成削除「Project Trace Erase」

現在のPhotoshopやLightroomには、生成AIを使った削除機能がある。きれいに目的の物体を消せるが、「消した物体が映り込んだ水たまり」や「消した物体の影」などは残ったまま。それらは別途処理する必要があった。

だが、「Project Trace Erase」は違う。

以下の写真は、車を消した後のもの。水たまりの中の反射まで消えている。

水たまりには当然自動車が映り込んでいる
だが、「Project Trace Erase」を使うと、水たまりへの映り込みまで消える

雪の中を歩く人を消すと、その足跡まで自動で消える徹底ぶりだ。

人を消すと、その人が作った雪上の足跡まで消える

映像加工を2Dライクにする「Project Frame Forward」

動画を加工するのは手間がかかる。その手間を減らすのが「Project Frame Forward」だ。

動画のフレームをPhotoshopで加工、登場人物の1人を消すと、動画全体からその人が消える。

写真から中央の1人を消すと、動画全体からその1人が消える

猫が歩く映像に水たまりを加える際も、1フレーム目に水たまりを生成すると、あとは動画全体に自然に追加される。

水たまりを書き加えると、動画全体に水たまりが現れる

背景に他人が映り込んでいて、色合いにドラマチックな要素が薄い動画であっても、1フレーム目をプロに修正してもらえば、結果的には動画全体がその修正に合わせた「ドラマチックな動画」に早変わりする。

ドラマチックな動画への加工も、1フレームを「プロレベル」に加工すれば全体に反映される

動画の中身からSEを作る「Project Sound Stager」

動画を作ることはできても、適切なサウンドエフェクト(SE)をつけるのは大変なことだ。

「Project Sound Stager」は映像を解析し、その内容・シーンにあったSEを自動的につけてくれるものだ。

動画の中身を解析してSEを自動でつける

もちろんマルチトラック音声になっているので、気に入らない部分や不要な部分は再指定することで最適なSEのついた動画を誰でも作れるようになる。

今度は写真も回る「Project Turn Style」

最後は「Project Turn Style」。昨年Sneaksで発表され、今年Illustratorにベータ版として組み込まれた「ターンテーブル」機能開発者の最新作だ。

「ターンテーブル」は、Illustratorで作られたベクターデータを「回転」させ、描いていない方向の絵を作り出すものだった。

それに対して「Project Turn Style」は、ついに「普通の写真」を回し、「映っていない方向の絵」を作り出す。

墓石の写真を好きなアングルへ回す

以下の写真では子ども達を「回し」、前を向いた写真から後ろ向きの写真を作り出している。写真の解像度やライティングなどは、最新のPhotoshopの機能を使って補正し、自然さを維持する。

子どもも「回して」向きを変更

写真だけでなく画像でも「回せる」ので、描かれた絵の一部を好きな方向に向かせられる。描き直す必要がなくなってしまうのだ。

写真だけでなく絵画の一部も向きを変えられる

結局のところ、AIによる画像生成技術の応用ではあるのだが、「向きを変えた絵を作る」というユーザーインターフェースが、この機能を特別なものにしている。Photoshopなどに組み込まれる日が楽しみだ。

西田 宗千佳

1971年福井県生まれ。フリージャーナリスト。得意ジャンルは、パソコン・デジタルAV・家電、そしてネットワーク関連など「電気かデータが流れるもの全般」。主に、取材記事と個人向け解説記事を担当。朝日新聞、読売新聞、日本経済新聞、AERA、週刊東洋経済、週刊現代、GetNavi、モノマガジンなどに寄稿する他、テレビ番組・雑誌などの監修も手がける。 近著に、「生成AIの核心」 (NHK出版新書)、「メタバース×ビジネス革命」( SBクリエイティブ)、「デジタルトランスフォーメーションで何が起きるのか」(講談社)などがある。
 メールマガジン「小寺・西田の『マンデーランチビュッフェ』」を小寺信良氏と共同で配信中。 Xは@mnishi41