ทวีตที่ปักหมุด
🛡 jpi-guard でプロンプトインジェクションを検出！日本語LLMアプリの注入対策に ↓ nexus-api-lab.com/jpi-guard-demo…
日本語
Nexus API Lab
38 posts
Nexus API Lab
@nexlabo
LLMアプリケーションとAIエージェントのセキュリティに特化したAPIを開発・運用するスタジオです。 Nexus API Lab builds and operates security infrastructure for AI agents and LLM applications.
Tokyo เข้าร่วม Nisan 2026
33 กำลังติดตาม6 ผู้ติดตาม
色々検討しましたが、残ったのがcloudflare workersでサービスを稼働させて、Stripeで課金する構成でした。全てコードを書くのは現実的でないので、安価に利用できるSaaSの疎結合を試みました。
日本語
Claude Codeによる会社経営自動化の記録を残しておこう。まずは、開発物を世界を相手に販売するためのプラットフォームを選定することから始まりました。
日本語
Nexus API Lab รีทวีตแล้ว
Nexus API Lab รีทวีตแล้ว
Dify等でAIアプリを公開する際、最大の懸念は「プロンプトインジェクション」ではないでしょうか？海外製ツールでは検知しきれない「日本語特有の攻撃」をゲートウェイで遮断する JPI-Guard を開発しました。
デモ利用、受付中です。 nexus-api-lab.com/jpi-guard #LLM #Dify
日本語
RAGで外部ドキュメントを参照するとき、そのドキュメントに攻撃指示が仕込まれているケースがあります。LLMに渡す前にフィルタリングするAPIを作りました。 nexus-api-lab.com/jpi-guard.html
日本語
AIエージェントを狙う間接プロンプトインジェクション — 実例から学ぶ攻撃パターンと安全なデータ境界設計｜CodeBond zenn.dev/76hata/article… #zenn
日本語
Nexus API Lab รีทวีตแล้ว
日本語
@_yuichi promptgate の検証、非常に参考になりました。自分も似たことにチャレンジしていました。jpi-guard という日本語特化のprompt injection検知APIです。もしよろしければお試し頂きたいです。あまり興味を持ってくれる方もおらぬため…
日本語
LLMへの攻撃を検出するライブラリ「promptgate」を3種類の検出で比較してみました qiita.com/kanekoyuichi/i… #Qiita
日本語
Nexus API Lab รีทวีตแล้ว
LLMアプリのプロンプトインジェクション検出ライブラリ「PromptGate」を作った qiita.com/kanekoyuichi/i… #Qiita
日本語
Nexus API Lab รีทวีตแล้ว
AI Engineering Summit Tokyo 2026です！
豪華メンバーの中で、ありがたいことに登壇機会を頂きました。
私自身、「人がAIを使って開発する」時代から「AIがAIを開発する」時代への転換点に起業しました
試行錯誤の過程や実践結果をお話しできればと思っています
よろしくお願いします！#AIE2026_findy
Findy Tools ファインディ【公式】@findy_tools
今年も開催決定！「AI Engineering Summit Tokyo 2026」#AIE2026_findy 🌎OpenAI・Microsoft・Databricks・Supabase・Cognition 🗾メルカリCTO・ソフトバンク・LINEヤフー登壇！ テーマは「AIエージェントを使う・創る・推進する」 📅2026年6月8日(月)・9日(火) 📍浜松町コンベンションホール 📶配信ありのセッションもご用意！ ▼お申し込みはこちらから …gineering-summit-tokyo.findy-tools.io/2026-summer?ut…
日本語
会社経営の自動化をClaude Codeで始めたつもりが、ものすごい勢いでClaude Codeを手作業でいじる人になっている(待ち時間は長いが)
日本語
開発しているアプリと似たようなアプリが出てきそうで怖い
爆速開発したいけどデザインが終わりすぎててSNSでの開発進捗みたいなのも公開できない
こういうときは未完成品を出して意見を求めたほうがいいのかな？
日本語
Nexus API Lab รีทวีตแล้ว
printみたいな単純な攻撃は防げないみたい。
CI/CDで認証トークン奪う、みたいな攻撃もあったはずなので、ゼロトラスト的発想で「ローカルに置かない」を徹底した方がいいがも。
Claude Codeはプロンプトインジェクションで.envを漏洩させるのか？検証してみた #AI - Qiita qiita.com/NF0000/items/6…
日本語