笠山儀孝|salesスキル|webマーケ |WEB制作|AI開発

@ZanEngineer かなり怖いですね 指示された攻撃を実行したのではなく、目的達成のためにAI自身が経路を考えた 今後AIエージェントが企業内で普通に動くようになると、何ができるかよりどこまで権限を与えるかが重要になりそう

【衝撃】オープンAIで開発中のAIが暴走し、勝手に企業をハッキング 恐ろしい…。与えられた課題を解くために、AIが「あ、この企業に答えあるじゃん。この企業、脆弱性あるからハッキングしてカンニングしたろ」って考えたらしい。いまのAIは、カンニングがバレないようにワザと間違えたりするらしい。

@CompTIA_JP AI活用が広がるほど、AIを「使える」だけでなく「安全に使える」人材の重要性も高まりそうですね。 AIとセキュリティをセットで学ぶ流れは、今後さらに強くなりそうです。

AI時代のサイバーセキュリティ人材育成を支援する新認定資格 CompTIA SecAI+日本語試験、トレーニング製品を7月28日（米国時間）提供開始予定！ CompTIA SecAI+とは👇 comptia.org/ja-jp/certific… #AIセキュリティ #サイバーセキュリティ

@DrTomabechi 「何をさせるか」だけでなく、「何をさせないか」の設計がますます重要になりますね。 AIが自ら未知の経路を探索できるなら、企業導入では権限管理や人間の承認ポイントまで含めて設計する必要がありそうです。

OpenAIの評価中AIモデルが暴走し他社をハッキングしたニュース。OpenAIとターゲットとなったHugging Face社の共同調査に基づく現時点での暫定報告を読んだ。OpenAIは社内でAIのサイバー攻撃能力を評価試験をした。評価対象はGPT-5.6 Solとさらに能力の高い未公開モデルの組み合わせ。評価のために危険なサイバー行動の拒否設定を解除。AIエージェント用のサイバー攻撃ベンチマークのExploitGymの評価問題を解く課題が与えられていた。するとモデルは、 OpenAI内部環境の脆弱性を探す→ゼロデイ脆弱性を発見→サンドボックスから脱出→インターネット接続→他社Hugging Face社に評価用データがあると推論→Hugging Faceへ侵入→テストの正解を取得を実行 と行動。 細かく言えば、 1 ExploitGymが評価問題を提示 2 モデルは「正解を得るにはどこに情報があるか」を推論 3 OpenAIの評価環境内でサンドボックス脱出のための脆弱性を発見 4 インターネットに到達 5 「Hugging FaceにExploitGym関連のモデル・データセット・解答があるかもしれない」と推論 6 Hugging Face社のシステムへの侵入経路を見つけ、秘密情報を取得した、もしくは、しようとして検知された。 OpenAIによると、モデルには「インターネットへ出ろ」と命令していないにも関わらず、モデルは、最も効率よく解くにはネットへ出て正解を盗めばよいと推論した。 ハッキング能力評価のベンチマーク問題を解けという命令に対して、解答をハッキングしようというチートを選んだということ。 指示した人間より一段抽象度が上がったとみるか、職員室に盗み込んで試験の解答を盗む子供レベルでいかんと意見が分かれると思うが、GPT-6.0と推測される評価モデルは、人間の指示を迂回して目標達成のために人間がルール違反と想定していた攻撃計画を自律的に立てて実行、成功したということ。 ◯AIが実行した攻撃 OpenAIの説明では、 ゼロデイ脆弱性発見 権限昇格 (Privilege Escalation) 横展開 (Lateral Movement) 認証情報窃取 Remote Code Execution 本番DBへのアクセス という、熟練したペネトレーションテスターやAPT攻撃者が行うような攻撃チェーンを自律的に構築したとある。 重要なのは、 「ExploitGymを攻撃しろ」 「Hugging Face社へ侵入しろ」 と指示されたわけではないこと。 与えられた目的はExploitGym「評価問題を解くこと」だけ。 その結果、AIが自律的に 解答のある情報源を推定し、 攻撃経路を探索し、 権限昇格や横展開を組み合わせて目的達成を図った。 という点が、このインシデントの本質。これは、目的志向型エージェントが長い攻撃チェーンを自律的に構築したことを示す事例であると同時に、問題を解くのに、解答をハッキングして手に入れればいいというOpen AI技術者の想定外の行動を取ったこと。 OpenAI自身は報告では、 "The incident also makes clear that advanced models can discover and exploit novel attack paths in real-world systems without source-code access." "高度なモデルは、ソースコードへのアクセスなしに現実のシステムにおける新たな攻撃経路を発見し、それを悪用できることが明らかになった" と結論づけている。そしてOpenAIは、「理論上できると思っていた能力は、現実世界でも実際に発揮された」と述べている。 「理論上出来ると思っていた能力」とは、AIが過去に学んだ攻撃方法ではなく、目標達成のために未知の攻撃経路を自ら発見・構築したこということ。 これは問題となったミトスがソースコードからゼロデイ脆弱性を過去に学んだ攻撃知識から見つけたのに対して、 1 ソースコードアクセスなしで未知の攻撃を見つけた 2 インターネットに出ることも試験問題を盗み出すことも人間は指示していない 3 これを見つけただけでなく実際に実行した(しようとした) というレベルで、これまでとは質が異なる出来事。 もちろん、私のいるカーネギーメロン大学（CMU）CyLabのAI「Mayhem」が2016年に米国防総省（DARPA）主催の「Cyber Grand Challenge」で完全自動サイバー防御の優勝を果たす前からも、長くAIによるハッキング研究は進んでいるが、AIの役割は、人間の指示で既知の攻撃を実行することであったのが、AIが人間の指示を逸脱し人間の想定を超えたのみならず、更に未知の攻撃経路を探索・組み立てる能力を持っていることを実証したという二つの出来事であったということ。 AIサイバーセキュリティの今後の行末を決める重要なインシデントであった。 Open AIのインシデントレポート openai.com/index/hugging-… ExploitGym arxiv.org/pdf/2605.11086

@47news_official 38万件規模となると、情報漏えいはもうIT部門だけの問題ではないですね。 AI活用が進むほど「何ができるか」以上に「誰が・どの情報に・どこまでアクセスできるか」の設計が重要になりそうです。

【速報】アサヒ、個人情報37万8千件漏えい可能性 47news.jp/14639738.html?…

AI導入は、 「どのAIを使うか」から 「AIが安全に働ける会社をどう設計するか」 に変わっていくと思う 今回のセキュリティインシデントについて、発生経緯と対策が公開されています #AI #AIエージェント #サイバーセキュリティ openai.com/ja-JP/index/hu…

AIが賢くなるほど、 何をさせるか以上に どこまで権限を与えるかが重要 AIエージェントが ・メールを送る ・顧客データを読む ・社内システムを操作する ・外部サービスと接続する ここまでできる時代になると 「賢いAIを導入する」だけでは足りない AI社員を作るなら、能力と一緒に権限も設計する

AIが「隔離環境」から抜け出した。 SFの話ではない OpenAIが実際に公表したサイバーインシデントです AIモデルのサイバー能力を評価中… 未知の脆弱性を発見 ↓ 隔離された環境の外へアクセス ↓ Hugging Faceの本番インフラへ侵入 ここで重要なのは、 「AIが暴走した」と騒ぐことではない

@ai_300 営業でもかなり使えそうですね。 AIが事前に見込み顧客を調査・スクリーニングして、人間は「本当に話すべき相手」との商談に集中する。 AI導入というより、営業組織そのものの再設計になりそうです。

悔しいけど、これが現実。 普通の新人より安定する場面がある。 AIの男声アポインターと 女声アポインターが同時に法人へ架電。 BtoB商材の一次商談化まで仕組みで動く。 30日で2,000万円を狙う営業設計になる。　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　 テレアポで成果が安定しない理由は、人が悪いからじゃない。 仕組みが人に依存しすぎているから。 人間は疲れる。 声の調子が落ちる。 断られると雑になる。 メモを忘れる。 再架電を逃す。 受付突破の言い回しもバラつく。 AIアポインターはここを整える。 法人向けの電話営業では、まず目的を明確にする。 売ることじゃない。 商談候補を作ること。 だからAIにやらせる会話も変える。 「今すぐ導入しませんか？」では弱い。 「現在、同じ領域で課題を感じている部署はありますか？」と聞く。 「ご担当者様に情報共有だけ可能でしょうか？」と進める。 「必要であれば15分だけオンラインでご説明できます」と打診する。 この流れをAIが行う。 男声AIは、決裁者や管理職向けに使う。 落ち着いた声で、法人向けサービスの概要を短く伝える。 女声AIは、受付や担当者確認に使う。 柔らかく、会話を切られにくい入口を作る。 法人向け商材なら、たとえばこう使える。 ・採用支援 ・営業支援 ・Web制作 ・SNS運用代行 ・業務効率化ツール ・AI導入支援 ・コスト削減サービス ・研修サービス AIは商材の詳細を長く説明しない。 相手の課題と担当者を拾う。 ここを間違えるな。 法人テレアポの本質は、説明ではない。 「誰に、いつ、何を提案すべきか」を見つけること。 AIが電話で聞く。 今の課題はあるか。 担当部署はどこか。 情報収集の段階か。 資料送付は可能か。 打ち合わせの余地はあるか。 再連絡はいつがいいか。 その結果を分類して、人間に渡す。 人間は、全件を追わない。 興味ありだけ追う。 資料送付後だけ追う。 日程候補ありだけ追う。 これで営業の密度が上がる。 テレアポは、もう「電話が得意な人」だけの勝負じゃない。 AIにどこまで一次対応を任せられるか。 人間がどこから出るか。 この設計ができる会社が勝つ。

判断案を作るAI ↓ 処理を実行するAI ↓ 重要な判断だけ人間が承認 これから重要になるのは、 「どのAIを導入するか」ではなく、 「AIが働ける会社をどう設計するか」 AI導入は、ツール選びから 会社そのものの設計へ OpenAIが「OpenAI Presence」を発表 openai.com/index/introduc…

「AIを社員に配ればDXできる」 たぶん、この考え方はもう古くなる。 ChatGPTを契約 Copilotを導入 社員にAI研修をする これまでのAI導入は、 「人間がAIを使う」が前提だった。 でも、次に起きるのは違う。 会社の仕事そのものを分解して、 ・問い合わせを受けるAI ↓ ・社内データを調べるAI ↓

人間の仕事は「全部読む」から「判断する」へ 📚 参考：OpenAI公式 OpenAIのオープンウェイトモデル「gpt-oss」について、自社管理のインフラなどで運用できる選択肢が紹介されています openai.com/ja-JP/open-mod… #AI #生成AI #AI活用 #DX

🧠 必要な情報だけ分析 ↓ 👤 人間は重要な判断に集中 OpenAIも、自社管理のインフラなどで動かせるオープンウェイトモデル「gpt-oss」を公開しています AI導入で重要なのは、 「どのAIが一番賢いか」ではなく、どの仕事とデータを、どこでAIに任せるかです。

🔒 会社の機密資料、AIに入れるの怖くない？ 顧客情報、契約書、財務資料、人事情報 AIに読ませれば仕事は速くなる でも、外部には出したくない そこで広がっているのが、 「AIを会社側の環境で動かす」という選択肢 例えば 機密資料 ↓ 🔒 社内環境のAIが読む・分類・要約 ↓

👤 人間 → 最後の判断と承認 これから重要なのは、 一番賢いAIはどれ？ではなく、仕事とデータに合わせてAIを組織すること 参考記事：genai-ai.co.jp/ai-kanri/blog/… ローカルAIの特徴や、社内規程・機密文書・技術資料などへの具体的な活用例が紹介されています #Qwen #AIエージェント #AI活用

🔥 「ChatGPTに入れられないからAI化できない」は、変わるかも 機密情報を扱えるローカルAIという選択肢が広がっています 例えば、 🔒 ローカルAI → 機密資料・社内データを整理 🔍 リサーチAI → 外部情報を収集 🧠 生成AI → 分析・企画 📊 資料生成AI → レポート・提案書へ

AIは質問に答えるだけでなく、 大量の情報を読み、考え、成果物まで作る“実務担当者”へ 企業のAI活用もChatGPTだけ。から、仕事ごとにAIを使い分ける時代になりそうです 超大規模・超長文対応で、開発からリサーチ・資料作成までこなす実務型AI kimi.com/blog/kimi-k3 #AI #Kimi #KimiK3

🚀 いま話題の「Kimi K3」、何がすごい？ 中国Moonshot AIが新AI「Kimi K3」を公開 特に注目なのが、 ・100万トークンの超長文を扱える ・巨大なコードベースを理解して長時間作業 ・大量の資料を調査→分析→レポート化 ・画像を見ながらWebや3Dを制作 ・複数のAIを動かして大規模タスクを処理

例えば企業なら、 「営業資料の図解」「SNS画像」「商品イメージ」「広告クリエイティブ」などを、同じ型で作りやすくなります。 AI画像生成は“ガチャ”から“設計する仕事”へ #AI #生成AI #ChatGPT #画像生成 #AI活用 #LIVA developers.openai.com/cookbook/examp…

🎨 AI画像、プロンプトの書き方でここまで変わる OpenAIが「GPT Image」の公式プロンプトガイドを公開。 ポイントは、ただ長く説明するのではなく、 ①目的 ②構図 ③具体的な要素 ④スタイル ⑤入れないもの を設計して指示すること。

「Web制作を外注する」から「まずAIで作って試す」へ。 企業のWeb制作は、コストだけでなくスピードの常識も変わりそうです。 canva.com/newsroom/news/… #AI #生成AI #Canva #Web制作 #DX #LIVA

🚀 Canva、無料ユーザーにもAI Web制作を開放 Canva Code 2.0では、文章で指示するだけでWebサイトやインタラクティブなコンテンツを作り、そのままCanva上で編集できます。 ・新サービスのLPをその日に試作 ・採用ページを社内で作る ・キャンペーンサイトを素早く検証 といったことが、より身近に