オープンソースカンファレンス2025 Tokyo/Spring出展
オープンソースカンファレンス2025 Tokyo/Springにて、 私が開発を進めているProject Sincromisorの展示と、 Sincromisorの基盤となるAIサービス基盤の開発についてのセミナーをおこないました。
展示・セミナー資料は下記からダウンロードできます。
今回は過去最高に気合を入れて用意してきたのですが、肝心のネットワーク(povo 2.0のテザリング)と RTCの状態が芳しくなく、対話サービスのデモがほとんど機能していなかったのが心残りでした。
VTuberモード(会場無線LAN利用)のほうのデモは、2日目は概ねうまくいっていたようでした。 ネットワーク環境による影響の調査が必要そうです。
DifyでRAG(Text Embedding + Rerank)をセルフホスティングしたい!
日本語を前提としたチャットボットを作ろうと、DifyでRAGする際の情報をググっていると、どこかしらのサービスのAPIを叩いて実現しているものばかり出てきてしまう。 そのため、全部オンプレのセルフホスティングでやろうとするとどうしていいやらまるでわからんとなりがちである。 そこで今回は、DifyでのRAG(Text Generation + Embedding + Rerank)を、全てオンプレで実現するための手順を取りまとめる。
- モデルプロバイダーの準備
- Dify上でのモデルプロバイダーの設定(執筆中)
Caddy + OWASP Corazaで作るWAF対応リバースプロキシ
CaddyとOWASP Corazaで、WAF対応リバースプロキシサーバを作る手順をまとめています。 (とりあえずはWAFとリバースプロキシ動くところまで)