Loading...

PC操作エージェント · ChatGPTのコンピューター操作

GPT-6 Astraがマウスとキーボードを自ら動かし、Hancomの申請書を埋めてPremiereでクライアントの動画まで編集した

ChatGPTデスクトップアプリでコンピューター操作(Computer Use)をオンにしてGPT-6 Astraに仕事を任せると、AIが画面を見ながら、マウスとキーボードでPCのアプリを直接操作します。ファイルを別にアップロードしたり、アプリを連携させたりする必要はありません。韓国の文書ソフトHancomの書式、Premiereでの編集、ネットショップの問い合わせ対応まで、実際の仕事を任せた事例を集めました。

2026年10月6日·事例 3件

#入力・移行#動画編集#顧客対応

左のCodexの会話ウィンドウでAIが作業状況を報告し、右のHancomの文書ソフトで開いた2026年支援事業の参加申請書の企業名欄に、会社名が入っている
GPT-6 AstraがHancomの文書ソフトで支援事業の申請書を埋めていく場面です。出典:AutoFrog YouTube

一番上の動画は、製造業を営む社長が、今年の支援事業の申請書をGPT-6 Astraに任せた場面です。AIはHancomの文書ソフトで開いた空の書式を画面から読み取り、昨年の申請資料のPDFを見ながら、欄ごとに直接入力していきました。社長は"마우스 움직이고 키보드 누르고 하는게 사람처럼 해서 깜짝깜짝 놀래기도 했거든요(マウスを動かしてキーボードを押す様子が人間そっくりで、何度もびっくりしました)"と話しています。

9月3日にOpenAIがGPT-6 Astraを"The world's best computer use model(世界最高のコンピューター操作モデル)"と紹介してから、韓国でも実際の業務を任せてみた動画が相次いで投稿され、それぞれ2万〜4万回再生されました。 Hancomのハングル文書で数学のプリントを作らせてみたClienのユーザーは、"한글프로그램을 열어서 직접하더라구요. 파일조작이아니라 컴퓨터조작입니다(ハングルのソフトを開いて自分でやるんです。ファイル操作ではなく、コンピューター操作です)"と書いています。

AIはファイルを受け取って書き換えるのではなく、画面をキャプチャして見ながらマウスとキーボードを動かします。だから、これまで連携する手段がなかったHancomの文書ソフトやPremiere、社内のERPのようなアプリの仕事も任せられるのです。

Reference 01製造業の社長 · YouTubeチャンネルAutoFrog(AI自動化の講座を運営)

AIが支援事業の申請書をHancomの文書ソフトで埋め、取引明細書の内容をERPの伝票に書き写しました

社長が申請書を任せたときの依頼

오른쪽 한글독스에 hwp lh혁신 파트너십 지원사업 참여신청서가 열려 있어 6~8페이지의 빈양식을 채워줘 참고할 자료는 2025년도 작년에 신청했던 지원사업 신청자료가 5 6 7 pdf 파일을 확인하고 그 내용을 기준으로 양식을 작성하자, 열려 있는 한컴독스에 내가 볼수 잇게 입력해봐 지금 6페이지 7페이지에 채워진 내용은 예시자료고 실제 내용을 우리 자료에 맞도록 입력해야돼

AIが最初にブラウザのタブで文書を探したため、社長が“탭이 아니고 한컴독스 앱(タブじゃなくてHancom Docsのアプリ)”と伝え直しました。どのアプリに何が開いているかを最初から正確に書いておけば、こうした伝え直しは要りません。

空欄のままの、2026年LHイノベーション・パートナーシップ支援事業の参加申請書
依頼前:空欄のままの2026年の申請書
企業名、設立年月日、主要生産品、売上高・負債総額などの経営数値が入った申請書
作業後:会社情報と経営数値が入った申請書

PDFを読んでいたAIのほうから、先に質問がありました。同じフォルダのメモに撮影用に一部の数値を2倍に変えた資料だと書かれていて、財務の合計も合わないが、この数字をそのまま使ってよいか、と。社長は撮影用なのでPDFの数字をそのまま使うよう答えました。入力の途中で企業名がタイトル欄に入ってしまうと、AIは自分で元に戻しました。画面が動いたあとに以前の位置へ入力したせいで連絡先3件が違う欄に入ったミスは、社長が指摘してから直しました。

同じ社長がERPの伝票を任せたときの依頼

거래명세표의 물품 내역을 확인하고 오른쪽 브라우저의 이카운트 ERP의 구매전표를 입력해줘 물품명을 품목코드에서 한글로 검색하면 동일 품목이 있어 품명이 완전히 똑같이 않고 자작, 코팅, 6t 이렇게 나무종류, 코팅유유, 두께로 구성되어 잇어 확인해서 입력을 해보자

Webで使うECOUNT ERPなので、アプリ右側のサイドバーにあるブラウザで事前にログインしてから頼みました。

取引明細書。バーチ合板8品目の数量10、33、1、13、5、10、5、4
取引先から届いた取引明細書(9月3日付、8品目)
ECOUNTの購買伝票。バーチ合板8品目の基本数量10、33、1、13、5、10、5、4
AIが入力したECOUNTの購買伝票

ERPの品目と名前が少し違う30Tの合板では、AIのほうから確認がありました。"30T 일반 자작합판은 ERP의 00018 '자작합판30t (S/BB 러시아)'로 입력해도 될까요? 명세서에는 B/BB로 적혀 있습니다.(30Tの一般バーチ合板は、ERPの00018「バーチ合板30t(S/BB ロシア)」で入力してよいでしょうか?明細書にはB/BBと書かれています。)" 8品目の数量は明細書とまったく同じに入力され、AIは入庫先の倉庫まで確認して決めてから伝票を保存しました。

Reference 02YouTube制作代行会社の代表 カン・インファン · AI編集の有料コミュニティを運営

クライアントに納品するYouTube動画を、AIがPremiereを直接操作して編集しました

クライアントである眼鏡店のチャンネルの動画編集をCodexに任せる際、Premiere Proを直接操作してほしいと頼み、参考としてクライアントのチャンネルの過去動画を渡しました。 そうして編集された動画が、9月19日にクライアントのチャンネルで公開されました。

カン・インファンがCodexに送った依頼(送った順)
  1. 1너가 직접 컴퓨터 유스로 해주면 좋겠어
  2. 2기존에 레퍼런스 유튜브 영상을 주면 좀 학습먼저 해볼수 있겟니
  3. 3내가 다음 편집 맡기면 한번에 여기 결과 까지 오게해줄수 있어?

2つ目の依頼には、クライアントのチャンネルの過去動画のURLを添えました。3つ目の依頼に対し、AIは「スタンダード眼鏡動画の編集」というスキルを作って保存したと答えています。次の動画から同じ基準で編集させるための依頼です。

Codexの画面。「1時間19分56秒作業」の表示の下に、2本目のリムレス眼鏡の動画を保存したという報告と、AIが作った眼鏡のイラスト4枚
Codexの画面:2本目の動画を保存したというAIの報告と、AIが作ったイラスト4枚
クライアントのチャンネルの動画の一場面。眼鏡技師の横に、バーガンディ色のテンプルのリムレス眼鏡のイラストと「かける位置でも印象が変わります」という字幕
クライアントのチャンネルで公開された動画に出てくる、同じイラスト

“지금 준비됐어 한번 시작해볼래(準備できたよ、始めてみようか)”という一言のあと、AIは1時間19分56秒ひとりで作業しました。カット編集、発言の字幕とバーガンディ色の強調字幕、10か所のイラスト、5つのチャプター、モーション・効果音・色補正まで入れて保存したと報告しています。そのイラストとバーガンディ色の字幕が、クライアントのチャンネルの動画にそのまま映っています。

クライアントのチャンネルの動画の一場面。定規の上の眼鏡のイラストとバーガンディ色の字幕

途中で行き詰まることもありました。サブモニターに表示したPremiereでタイムラインのクリックが失敗し続けると、AIはウィンドウをメインモニターの中央に移してほしいと頼みました。なぜ遅いのかと尋ねると、AIは"응, 컴퓨터 유즈로 하나씩 클릭하며 편집하면 느려. 화면을 확인하고, 조작한 뒤, 결과를 다시 확인해야 하거든(うん、コンピューター操作で1つずつクリックしながら編集すると遅いよ。画面を確認して、操作して、結果をもう一度確認しないといけないから)"と答えました。発言の字幕はAIがVrewアプリに文字起こしさせて作り、そのクレジット消費はカン・インファンが承認しました。

Reference 03複数のプラットフォームに出店するアパレルEC運営者 · YouTubeチャンネル「オンクトリー」(EC講座・メンバーシップを運営)

AIが10分ごとにネットショップの9チャネルを巡回して問い合わせを集め、返信の下書きまで書いておきます

Cafe24の自社EC、NAVERスマートストア、ABLY、カカオトークチャンネルといった韓国の販売チャネルごとにAPIをつなぐのではなく、あらかじめログインしておいたChromeをAIが直接操作して問い合わせを集めます。ダッシュボードもCodexが作りました。人は下書きを読み、直すべきところだけを直して送信ボタンを押します。

オンクトリーが書いた依頼(動画に映っている後半部分)

각 플랫폼들 다 로그인 상태고 접속 링크임 지금부터 너가 만들어볼건 CS자동화 프로그램임 일단 대시보드를 하나 만들고 10분마다 CS들을 수집해오는 거임 각 링크에서

前半には、プラットフォームごとのアクセス用リンクを貼りました。オンクトリーは、問い合わせの種類の分類、返信の下書き作成、送信ボタンを押すとそのプラットフォームに返信を書き込むといった動作ルールと、既存の返信テンプレートを続けて渡したと話しています。

CS DESKの統合受信箱。返信待ちの問い合わせ3件、プラットフォーム接続9/9。画面最上部に「ChatGPTがこのブラウザのデバッグを開始しました」という通知
カカオトークチャンネルの顧客からの配送に関する問い合わせへの返信の下書き。入荷予定日の部分が“[입고/출고 예정일 확인 필요]”(入荷・出荷予定日の確認が必要)と空けてある
わからない入荷日程は“[입고/출고 예정일 확인 필요]”(入荷・出荷予定日の確認が必要)と空けておいた返信の下書き。人はその欄だけを埋めて送ります。

この方法は各チャネルのポリシーに違反しないのかというコメントに、オンクトリーは"그 부분은 한번 알아봐주셔야 할 거 같아요(その点は一度ご自身で確認していただく必要があると思います)"と答えています。

使った人の声

使った人たちがいちばん歓迎したのは、これまで連携する手段がなかったアプリの仕事を任せられる点です。不満は使用量と速度、そしてWindowsでの動作に集まりました。とくに、PlusプランでComputer Useを使うと数分で5時間の上限に達したという投稿が目立ちます。

よかったという声

  • “문구정도만 수정해서 30분이상걸리던걸 10분만에 해결했습니다.”

    文言を少し直すだけで、30分以上かかっていた作業が10分で済みました。教科書数ページ分の数学プリントを、既存のhwpファイルの書式に合わせて作らせたところ、書式そのままに数式まで埋めてくれたそうです。

    ユソンヒパルラ · Clienclien.net
  • “Something that would have taken her +30 hours, done in 3h 30 minutes.”

    3社のクライアントに同じ作業をしている婚約者の仕事を任せたそうです。業務用プラットフォームがCodexと連携できないためComputer Useで処理し、30時間以上かかるはずの仕事が3時間30分で終わったと書いています。

    u/Lonely-Brief-3798 · Redditreddit.com
  • “it's still wanky but Astra is the first model that feels like it actually does what you want some what reliably”

    まだ粗さはあるものの、頼んだことをある程度安心して任せられると感じた初めてのモデルだそうです。

    u/OWazabi · Redditreddit.com
  • “In Computer Use Codex is just so much better overall especially in Astra model so far”

    Claudeの20xプランを18か月使っている人が、コンピューター操作に関してはCodex、特にAstraのほうがずっと上だと書いています。

    u/Creative-Ganache1086 · Redditreddit.com

物足りなかったという声

  • “I'm on plus and I blew through my entire quota in FIVE MINUTES of computer use.”

    Plusプランで、Computer Useを5分使っただけで上限を使い切ったそうです。

    u/Siciliano777 · Redditreddit.com
  • “Astra의 컴퓨터 유즈 능력은 맥에서 차원이 다르네요.”

    AstraのComputer Useの能力は、Macだと次元が違いますね。Windowsで使ったときは「思ったほどではない」と感じたそうです。主にExcelの作業を任せたところ、Macではずっと速く正確だったといいます。

    71_102 · Threadsthreads.com
  • “근데 아스트라 너무 느리지않나요? 뭐 일시켜놓으면 기본 5분~10분에 좀 어려운거 오더넣으면 30분씪쓰던데”

    でもAstra、遅すぎませんか?何か頼むと基本5〜10分、ちょっと難しいものを頼むと30分ずつかかるんですが。

    @junestudio · YouTubeコメントyoutube.com
  • “I asked Astra to find the lost session, and next thing I know it's prompting for full computer control to drive Finder.”

    消えた会話を探してほしいと頼んだら、Finderを操作するためにコンピューター全体の操作権限を求めてきたそうです。ディスク上のファイルを読むだけで済む作業だったのに、と書いています。

    wilj · Hacker Newsnews.ycombinator.com

始め方

  1. 1

    ChatGPTデスクトップアプリを入れ、Plus(月20ドル)以上のアカウントでログインします

    macOSとWindowsのアプリで使えます。GPT-6 AstraはPlusから使えますが、Plusでは5時間に送れるAstraのメッセージが5〜45件ほどなので、すぐに足りなくなります。Pro(月100ドル)からは5時間の上限がありません。

    ChatGPTデスクトップアプリのダウンロード ↗
  2. 2

    WorkかCodexで、Computer Useプラグインをオンにします

    アプリの左上でChatGPTを選んでからWorkに切り替えるか、Codexを選びます。Plugins > Computer Useでプラグインをインストールし、サーバーとスキルのトグルをオンにします。macOSでは、画面収録とアクセシビリティの権限を許可しないと、AIが画面を見て操作できません。

    OpenAIのComputer Useドキュメント ↗
  3. 3

    難しい仕事はGPT-6 Astra、単純な繰り返しはGPT-6.1 Solを選びます

    OpenAIは、画面を見て判断する必要がある難しい仕事にはAstraを勧めています。9月29日に出たGPT-6.1 Solは、トークン単価がAstraの5分の1で、コンピューター操作の性能はほぼ同じだと紹介されました。上限にすぐ達するようなら、まずSolで試してみてください。

  4. 4

    アプリとウィンドウ、やることをはっきり指定して頼みます

    依頼に@Computerや@アプリ名を入れ、どのウィンドウに何が開いているか、どの資料を見てどこまでやるかを書きます。初めて使うアプリごとに、許可を求めるウィンドウが出ます。パスワード・証明書・決済が絡むステップは、人が画面の前で見守っているときだけ任せるよう、OpenAIは案内しています。Windowsでは作業中にAIがマウスとキーボードを使うので、その間はそのPCでほかの作業ができません。

必要なもの

  • ChatGPT Plus(月20ドル)以上のプラン
  • ChatGPTデスクトップアプリ(macOS・Windows)
  • 任せたいアプリを開いたコンピューター

このリファレンスを共有

このリファレンスは役に立ちましたか?

毎週厳選されたリファレンスをメールでお届けします