Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

[Feat] AI 토큰 사용량 제한 및 예외 처리 #78

Open
1 task
supsup-hae opened this issue Feb 9, 2025 · 0 comments
Open
1 task

[Feat] AI 토큰 사용량 제한 및 예외 처리 #78

supsup-hae opened this issue Feb 9, 2025 · 0 comments
Labels
🏷️ After 데모데이 이후 개발 예정 ✨ Feat 새 기능 추가

Comments

@supsup-hae
Copy link
Member

💼 작업 설명

  • Spring AI에 제공하는 max-Tokens 옵션은 응답 값만 제한을 두고 프롬프트 토큰 값은 제한하지 않는다. 별도의 라이브러리를 이용해서 사전에 토큰 수를 계산하고 이를 예외 처리하는 로직이 필요

✅ To-do

  • AI 토큰 사용량 제한 및 에외 처리

참고할만한 자료(선택)
@supsup-hae supsup-hae added the ✨ Feat 새 기능 추가 label Feb 9, 2025
@supsup-hae supsup-hae changed the title [Feat] AI 토큰 사용량 제한 및 에외 처리 [Feat] AI 토큰 사용량 제한 및 예외 처리 Feb 9, 2025
@supsup-hae supsup-hae added the 🏷️ After 데모데이 이후 개발 예정 label Feb 20, 2025
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
🏷️ After 데모데이 이후 개발 예정 ✨ Feat 새 기능 추가
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
1 participant
@supsup-hae