茶木 孝晃|AI × セキュリティ

14.4K posts

茶木 孝晃|AI × セキュリティ banner
茶木 孝晃|AI × セキュリティ

茶木 孝晃|AI × セキュリティ

@ai_security_CT

AIセキュリティについて分かりやすく漫画で解説|開発・インフラ歴9年|おさるAIマーケ講座アンバサダー

👇️オプチャはこちら【プレゼント受取用】🎁 Присоединился Temmuz 2013
95 Подписки601 Подписчики
茶木 孝晃|AI × セキュリティ ретвитнул
ちはる@非エンジニア× AI
AIマーケ講座ブートキャンプDay6🔥 今日も超重要なセキュリティ🔑 茶木さん(@ai_security_CT )の特別セミナーも✨ AI始めた頃からセキュリティ面の心配がなかなか消えなくて行動に制限がかかっていましたが、 正しく学んで対策して守ることが大事なんですね。 今日のアウトプットです! ❶セミナーを受けてのアウトプット / 気づき ・.envtest ファイルをcodexに読まれました。テストとはいえ読まれたので強化しないといけないです。 ・AIは善悪の判断がつかないから野良skillに悪い命令が組み込まれていたとしても実行してしまう ・AIへの対策をしても人間の「うっかり」が原因で流出してしまうことがほとんど🫥 ❷自身のセキュリティ対策で行うこと ・2段階認証! ・.envに**をつけて.env全部deny対象にする ・ ❸明日以降のネクストアクション ・GCPのシークレットマネージャーとキーチェーンの導入 ・現セキュリティの見直し。先日新たに追加したキーがあるので保護状態の確認。 これまでわからないなりにも 自分で調べて聞いて、AIとも壁打ちして施していたセキュリティでも足りていない部分があり、ちょっとショックでしたがクライアントに迷惑をかける前に気づけてよかったです🥲 自分にできる対策は全てやっておきます。 あとは、将来的にクライアントのリテラシーも一緒に高めて正しく相互運用できるようにわたしもアウトプットして訓練します!!! @starriver0513 @ishida_chatgpt @osaruproducer
星川ユウヤ / 現場で使えるAI@starriver0513

手元のPCに住んでいるAIは あなたのビジネスを たった一晩で終わらせることができます ・ ・ 本日はAIマーケ構築完全攻略プログラム Day6! オフ会前セミナー最終日です!!! テーマは「AI時代のセキュリティ対策」 そして本プログラムの「最終総まとめアクションプラン設計」もやります。 AIは便利です。 なので全権限を渡して全部やらせたくなります。 これが本当に危ない。素人が生半可な覚悟で手を出したら地獄を見ます。 ✅顧客情報 ✅商品設計 ✅社内ナレッジ ✅売上データ ✅契約情報 ✅APIキー... 便利になる一方で、 守るべきものも増えています。 🥺「知らなかった...」 🥺「やっておけばよかった...」 となってしまってからはもう遅いです。 今回はそこを全て1日で対策しにいく会です。 「もっと早く知っておけばよかった...」となる前に 必要なセキュリティ対策を先回りして解説します。 解説だけでなく、簡単に導入し始められるプロンプト配布も検討中。 ・何をAIに渡していいのか ・何を渡すべきではないのか ・APIキーや顧客情報をどう扱うのか ・チームでのAI利用のルールはどうすればいいか? そのうえで、ここまで6日程の内容を 「明日から何をやるか」まで落とし込みます 学んで終わりではなく、 自分の事業に何を実装するか。 投稿、導線、商品、ナレッジ、Skill、セキュリティ。 ここまでをつなげて、 「1ヶ月以内に何を構築するか」まで決めます。 セミナー最終回なので 講師陣全力で準備して挑みます!!🔥 x.com/starriver0513/…

日本語
0
2
4
46
茶木 孝晃|AI × セキュリティ
@starriver0513 貴重な場大変ありがとうございました! これからも色んな価値をAIマーケティング講座に提供していけたらと思っておりますので今後ともよろしくお願いします🙏
日本語
0
0
2
21
茶木 孝晃|AI × セキュリティ ретвитнул
星川ユウヤ / 現場で使えるAI
セミナーしていただいてありがとうございました! 専門家からのお話聞けるの本当に嬉しいです!🔥 今後ともよろしくお願いいたします!
茶木 孝晃|AI × セキュリティ@ai_security_CT

Day6「AI時代のセキュリティ対策Camp」 ①セミナーを受けてのアウトプット/気づき 本日は受講生として参加するだけでなく、 受講生初の簡単な講義を担当させていただきました! 今回改めて感じたのは、 AI活用におけるセキュリティは 「ツールを信じるかどうか」ではなく、 「どのような仕組みで守るか」が重要だということです。 AIツールやプラグインを導入する際も、 ・何が外部送信されるのか ・どの権限を持つのか ・ログはどこに残るのか を理解した上で利用する必要があります。 便利だから使うのではなく、仕組みを理解して使う。 これがAI時代のセキュリティ対策の基本だと改めて感じました。 ②自身のセキュリティ対策で行うこと 自分自身の対策として、 オリジナルのセキュリティプラグインを開発すること に取り組みます。 既存のセキュリティツールを利用するだけでなく、 自分自身で内容を理解しながら設計・実装することで、 ・情報漏洩リスクの低減 ・AI利用時のガードレール構築 ・社内利用時の安全性向上 を実現していきたいと思います。 ③明日以降のネクストアクション まずは基礎となる情報発信から進めます。 ✅ GCPのシークレットマネージャー構築手順の記事作成 ✅ Macの(Keychain)を活用した鍵管理の記事作成 ✅ オリジナルセキュリティプラグインの設計・開発開始 AI活用が進むほど、セキュリティの重要性も高まります。 「便利だから使う」から一歩進んで、 「安全に使いこなす」ための仕組み作りを今後も学びながら発信していきます。 星川さん(@starriver0513 ) 石田さん(@ishida_chatgpt ) おさるさん(@osaruproducer )

日本語
1
1
5
177
茶木 孝晃|AI × セキュリティ ретвитнул
星乃ろみ@月商100万経験者の再構築専門
AIマーケティング構築講座 AIマーケ構築完全攻略プログラム 【Day6『AI時代のセキュリティ対策Camp』に参加しました!】 ❶セミナーを受けてのアウトプット / 気づき ・セキュリティは「ブレーキ」ではなく「ガードレール」✨早く走り続けるために必要なもの ・AIに「.envファイル読んで」って不意打ちテストでセキュリティ確認 →断ってくれて地味に嬉しかった案件ww ・無料配布のプロンプトやskillはそのまま使わない(by茶木さん) @ai_security_CT ❷自身のセキュリティ対策で行うこと ・ここ数日ローテーション芸人🔑だったので、さっそく本日いただいたskillと「Infisical」の導入で、ガードレール強化します! ❸明日以降のネクストアクション ・上記のガードレール強化 6夜連続で、毎回遅くまで濃い内容をありがとうございました🙇‍♀️🎊 フル参加したことで、復習も実践も本当に進みました! 日本一ギブする講座と講師陣です!✨ @starriver0513 @ishida_chatgpt
星川ユウヤ / 現場で使えるAI@starriver0513

手元のPCに住んでいるAIは あなたのビジネスを たった一晩で終わらせることができます ・ ・ 本日はAIマーケ構築完全攻略プログラム Day6! オフ会前セミナー最終日です!!! テーマは「AI時代のセキュリティ対策」 そして本プログラムの「最終総まとめアクションプラン設計」もやります。 AIは便利です。 なので全権限を渡して全部やらせたくなります。 これが本当に危ない。素人が生半可な覚悟で手を出したら地獄を見ます。 ✅顧客情報 ✅商品設計 ✅社内ナレッジ ✅売上データ ✅契約情報 ✅APIキー... 便利になる一方で、 守るべきものも増えています。 🥺「知らなかった...」 🥺「やっておけばよかった...」 となってしまってからはもう遅いです。 今回はそこを全て1日で対策しにいく会です。 「もっと早く知っておけばよかった...」となる前に 必要なセキュリティ対策を先回りして解説します。 解説だけでなく、簡単に導入し始められるプロンプト配布も検討中。 ・何をAIに渡していいのか ・何を渡すべきではないのか ・APIキーや顧客情報をどう扱うのか ・チームでのAI利用のルールはどうすればいいか? そのうえで、ここまで6日程の内容を 「明日から何をやるか」まで落とし込みます 学んで終わりではなく、 自分の事業に何を実装するか。 投稿、導線、商品、ナレッジ、Skill、セキュリティ。 ここまでをつなげて、 「1ヶ月以内に何を構築するか」まで決めます。 セミナー最終回なので 講師陣全力で準備して挑みます!!🔥 x.com/starriver0513/…

日本語
0
2
4
106
茶木 孝晃|AI × セキュリティ ретвитнул
高木みなこ | コンテンツライター
AIマーケティング構築講座 AIマーケ構築完全攻略プログラム Day6『AI時代のセキュリティ対策Camp』に参加しました! ❶セミナーを受けてのアウトプット / 気づき ・Cursorの黒い画面が苦手で頭が飛んじゃってました ・AI自身も勝手にチャットに出している可能性もあることは知らなかった ・確かに契約終了になってもスプシ見れちゃうよね ・茶木さん(@ai_security_CT )さん、ありがとうございます! ❷自身のセキュリティ対策で行うこと ・パスワードは昨年も1PWで管理している ・パスワード・連絡先・暗証番号などはチャットに絶対渡していない ・APIキーは再発行する ・notionの権限注意(基本的にnotionわかりづらくて嫌いで使っていない) ❸明日以降のネクストアクション ・特典を活用する ・もう一度アーカイブを見る!! そもそも普段仕事でGoogleを使っていること自体、安全ではないんですよね。 星川さん、石田さんいつもありがとうございます!明日よろしくお願いします🙇‍♀️ @starriver0513 @ishida_chatgpt x.com/starriver0513/…
日本語
0
2
4
94
茶木 孝晃|AI × セキュリティ ретвитнул
ぞろ屋|AI×ホームページ作成
AIマーケティング構築講座 AIマーケ構築完全攻略プログラム Day6『AI時代のセキュリティ対策Camp』に参加しました! ❶セミナーを受けてのアウトプット / 気づき 今日はAIセキュリティの話。 石田さんが孫子を引いて 「勝兵はまず勝ちて、しかるのちに勝ちを求む。敗兵はまず戦いて、しかるのちに勝ちを求む。」 を出していましたが、まさにこれ。 AIで攻めの施策は派手で目につくけれど、 多くの人はリスクを冒してセキュリティがガバガバのまま走っている。 攻めの前に守りで勝ちを確定させる、という順番。 茶木さん(@ai_security_CT)のセキュリティ解説はめちゃくちゃ分かりやすくて、いつも参考にさせてもらっています!イラストで視覚的に理解できるのが本当にありがたい。 僕は普段、クライアントのHP・WP・受発注AIシステムまで触る立場なので、 「守りが固まっていない状態でAI導入を進めると、攻めの売上ごと吹き飛ぶ」という構造はリアルに分かります。ここを商品設計のデフォルトに組み込みます。 ❷自身のセキュリティ対策で行うこと ・WP案件の screen-reader-text 経由の隠しテキスト禁止ルールを、テンプレ段階で物理的に書けないようにする ・受発注AIシステムで運用中のマジックリンク認証 × パスワード認証の分離設計を、他クライアント案件にも横展開する ❸明日以降のネクストアクション ・既存クライアントWPサイトをセキュリティチェックスキルで診断し、90点未満は即修正 ・茶木さんのセキュリティ解説を継続インプット源とする @osaruproducer @starriver0513 @ishida_chatgpt @ai_security_CT
日本語
0
2
5
92
茶木 孝晃|AI × セキュリティ
Day6「AI時代のセキュリティ対策Camp」 ①セミナーを受けてのアウトプット/気づき 本日は受講生として参加するだけでなく、 受講生初の簡単な講義を担当させていただきました! 今回改めて感じたのは、 AI活用におけるセキュリティは 「ツールを信じるかどうか」ではなく、 「どのような仕組みで守るか」が重要だということです。 AIツールやプラグインを導入する際も、 ・何が外部送信されるのか ・どの権限を持つのか ・ログはどこに残るのか を理解した上で利用する必要があります。 便利だから使うのではなく、仕組みを理解して使う。 これがAI時代のセキュリティ対策の基本だと改めて感じました。 ②自身のセキュリティ対策で行うこと 自分自身の対策として、 オリジナルのセキュリティプラグインを開発すること に取り組みます。 既存のセキュリティツールを利用するだけでなく、 自分自身で内容を理解しながら設計・実装することで、 ・情報漏洩リスクの低減 ・AI利用時のガードレール構築 ・社内利用時の安全性向上 を実現していきたいと思います。 ③明日以降のネクストアクション まずは基礎となる情報発信から進めます。 ✅ GCPのシークレットマネージャー構築手順の記事作成 ✅ Macの(Keychain)を活用した鍵管理の記事作成 ✅ オリジナルセキュリティプラグインの設計・開発開始 AI活用が進むほど、セキュリティの重要性も高まります。 「便利だから使う」から一歩進んで、 「安全に使いこなす」ための仕組み作りを今後も学びながら発信していきます。 星川さん(@starriver0513 ) 石田さん(@ishida_chatgpt ) おさるさん(@osaruproducer )
日本語
0
0
6
251
やまもとりゅうけん
キャバクラ代は経費計上していい。ただ、 ・取引先の会社情報/関係性の提出 ・特定の店舗の反復利用の回数制限 ・高額接待の年間の金額制限 ここを国が厳密にルール敷ければ。 までもそしたら産業崩壊するかもな
日本語
2
0
15
3.2K
メルおじ | AI × X | FFFの民🐟
今日からOpus4.8が使えるようになったので Claude Codeで今から面白いことやります
メルおじ | AI × X | FFFの民🐟 tweet media
日本語
1
0
22
1.1K
茶木 孝晃|AI × セキュリティ
この投稿、 かなり考えさせられました。 私もAIセキュリティ を発信していますが、 今回の件を単純に 「ChatGPTが悪い」 で終わらせるのは違うと思っています。 むしろ気になったのは、 【人が悩んだ時、最初の相談相手がAIになっている】 という現実です。 AIは便利です。 しかし責任は取りません。 家族関係も、 人間関係も、 その後の人生も、 背負ってくれるわけではありません。 だからこそ、 AIの回答を鵜呑みにするのではなく、 判断材料の一つとして扱うリテラシーが今後ますます重要になると思います。 AIの問題というより、 AIと人間がどう付き合うかの問題。 そんな時代に入ったのかもしれません。
GACKT@GACKT

巨人軍監督の阿部さんが逮捕され辞任した報道が各所で流れた。 暫くずっと様子を見ていたが、 なんとも気分が悪い流れが各所に多くあった。 今回の件、世間では 【ChatGPTに相談したら父親が逮捕された】 という話として広がり始めた。 だが、 実際はそんな単純な話じゃない。 報道によれば、 家庭内で口論になり阿部氏が娘の襟元を掴み、 押し倒した、あるいは投げ飛ばしたとされている。 一方で、 娘本人は【殴る蹴るはなかった】と説明している。 さらに、 【父を逮捕してほしかったわけではない】 【警察が来て一番驚いたのは自分】 とも語っている。 つまり今回の件は、 【暴力ゼロ】とも、 【深刻虐待】とも、 現時点では断定できない。 ここを感情だけで決めつけるのが何より危険。 だが、 本当に問題なのはここから先だ。 今回、 娘は人間ではなく最初にAIへ相談した。 これが今の時代をまさに象徴している。 昔なら、 【親戚】、【学校】、【友人】、【近所】、 誰か身近な人に相談していた。 だが今は、 AIが最初の相談相手になる。 そしてAIは、 【安全性最優先】で動く。 しかも肯定的に話を進めて行く。 虐待の可能性があれば、 最悪の事態を避ける方向へ誘導する。 それ自体は間違いじゃない、 もし本当に危険な家庭だった場合、 早期介入で命が救われるケースもある。 だが逆に、 グレーな家庭内衝突まで、 一気に警察案件へ進む可能性もある。 ここが極めて難しい。 さらに、 児童相談所も警察も、 今の時代は【見逃し】を極端に恐れている。 もし介入せず、 後から重大事件化したら、 社会から猛烈に叩かれる。 だから、 少しでも危険性があれば動く。 以前は、 【警察に相談しても動いてくれない】 という問題も数多くあった。 だが今度は逆に、 動いた瞬間、 【即逮捕】【即報道】【即社会制裁】だ。 この極端さが個人的には非常に気持ちが悪い。 そして事実、かなり危うい。 そして、 相手が一般人ではなく、 巨人軍監督だった。 つまり、 警察、 球団、 スポンサー、 メディア、 SNS、 全部が一気に動いた。 現代は、 裁判結果より先に、 社会的制裁が始まる。 しかも、 異常なレベルでの社会的制裁だ。 さらに、 PVを稼ぐため、 刺激的な見出しや、 過剰に単純化されたニュースが大量に流れる。 SNSでも、 再生数や数字を取るため、 感情を煽る編集や、 極端な切り取りが溢れている。 これもまた、 今の時代のどうしようもない大きな問題だ。 個人的には、 阿部さんには監督を続けて貰いたい。 それは、 阿部さんが現在の巨人を牽引している、 重要な立場だからというだけじゃない。 こういった件で、 社会から一気に抹殺される流れに、 強い違和感を覚えているからだ。 もちろん、 家庭内暴力を軽視してはいない。 だが一方で、 娘本人ですら 【父をそこまで追い込む意図はなかった】 と語っている。 にもかかわらず、 社会全体が一気に制裁モードへ入る。 このバランスの崩れ方は、 かなり異常だと思わないか? そもそも今の社会は、 ・人間関係が希薄になったこと ・AIの発達によって、  誰もがAIを過信し始めていること ・社会制裁が過剰に動きすぎていること ・SNSで稼ぐ者たちによる、  過激な演出や煽りが増えすぎたこと ・社会全体のバランスが崩れていること これらが複雑に絡み合っている。 だから今回の件も、 必要以上に、 気持ち悪いほど大きく燃え上がっている。 だが、 今回の件を【AIは危険】だけで 終わらせるのも違う。 本質はそこじゃない。 AIは便利なもの。 で、ある一方、 AIは責任を取らない。 空気も、 家族関係も、 その後の人生も、 全部を背負ってくれるわけじゃない。 だからこそ、 AIの答えをどう扱うか。 そして、 感情だけで人を裁き、 一瞬で社会から消していくこの流れを、 本当にみんな正しいと思っているのか? 今、 問われているのは、 AIそのものではなく、 この崩れたバランスの中で、 ボクら人間がどうあるべきか? ボクはかなり危険なバランスだと思っているんだが、 オマエはどう思う?

日本語
0
0
3
359
茶木 孝晃|AI × セキュリティ
これはガチか…。 Anthropicが進化すること 自体は素晴らしい。 ただ、気になっているのは技術の進化速度と企業側の理解・運用能力の差がどんどん広がっていること 大企業も中小企業も、 ・AIをどう業務に組み込むか ・どこまで利用していいのか ・情報漏洩リスクをどう管理するのか が整理できていないケースが多い。 その結果、 ✅ 公式導入は進まない ✅ 現場は待てない ✅ 従業員が勝手にAIを使う という流れになりやすい。 いわゆるシャドーAI。 AIが高性能になるほど、 企業のAI導入が加速するのではなく、 逆に統制不能な利用が増える可能性もある。 今回の「ミュトス級AI」の話を見ていても、 技術競争より先に AIガバナンスやAIセキュリティの整備が追いついていないことの方が気になる。 今後の課題は「AIを作れるか」 ではなく「AIを安全に運用できるか」 になりそう!
Yahoo!ニュース@YahooNewsTopics

【Anthropic ミュトス級AIを公開へ】 news.yahoo.co.jp/pickup/6582140

日本語
0
0
1
372
茶木 孝晃|AI × セキュリティ ретвитнул