INSIGHT
Tech Blog
LabQ의 엔지니어들이 현장의 문제를 해결하며 얻은 기술적 경험과 R&D 인사이트를 공유합니다.
-
# INFRASTRUCTURE
FPGA 기반 LLM 추론 솔루션
FPGA는 회로를 재구성할 수 있는 반도체로, Reranker 가속과 Memory tiering을 통해 메모리 벽 문제를 해결하여 LLM 추론 솔루션으로 활용될 수 있다.
황황지은
전임연구원
-
# R&D
제조화학 SHE 합성 데이터 설계기
기밀·희소·위험한 안전 데이터를 더 모으지 않고 합성하는 법. 현실적이되 실행 불가능한 합성 골든셋을 검증 가능한 수용 기준으로 설계한 R&D 기록.
김김수빈
선임연구원
-
# ENGINEERING
안전한 LLM 서비스 설계: 'Kanana Safeguard' 도입
LLM 기반 챗봇 서비스를 운영한다면, 유해 응답과 프롬프트 공격에 대한 대비는 선택이 아니라 필수입니다. 카카오가 오픈소스로 공개한 한국어 특화 AI 가드레일 모델 Kanana Safeguard를 소개하고, 실제 서비스에 어떻게 적용할 수 있는지 정리합니다.
양양시영
선임연구원
-
# ENGINEERING
하네스 엔지니어링의 이해와 적용
하네스 엔지니어링의 이해와 적용
백백승빈
전임연구원
