README.md

metadata

title: Command R Plus Chat
emoji: 🤖
colorFrom: blue
colorTo: red
sdk: gradio
sdk_version: 5.35.0
app_file: app.py
pinned: false
license: apache-2.0

Command R+ 4bit 채팅봇

Cohere의 Command R+ 4bit 양자화 모델을 사용한 채팅 인터페이스입니다.

특징

• 🚀 4bit 양자화로 메모리 효율성 최적화
• 💬 실시간 대화 인터페이스
• ⚙️ 온도 및 최대 토큰 수 조절 가능
• 🔄 대화 히스토리 관리

사용법

1. 메시지 입력창에 질문을 입력하세요
2. 전송 버튼을 클릭하거나 Enter를 누르세요
3. 모델의 응답을 확인하세요

주의사항

• 첫 실행 시 모델 다운로드로 인해 시간이 걸릴 수 있습니다
• 큰 모델이므로 응답 생성에 시간이 소요될 수 있습니다