문의전화 02-538-1423견적 상담 신청
←목록으로 돌아가기
JetBrains발행일: •작성자: 단군소프트 기술파트너

AI Agent 최신 뉴스레터 (Cursor, Copilot, Claude, Junie) #001

#JetBrains
이 글이 유용하셨다면 공유해 주세요

JetBrains가 궁금하다면?

JetBrains 신규 기능이나 깊이 있는 워크플로우에 대해 궁금한 점을 문의주시면
단군소프트 Tech 팀의 엔지니어들로부터 도움을 드릴 수 있습니다.

02-538-1423

함께 읽으면 좋은 추천 아티클

단군소프트의 기술 스택 전문가가 엄선한 최고 조회수 아티클을 전해드립니다.

[오류 해결] 파드외부통신복구_Kubernetes·AWS_중급_DevOps_RKE2 on AWS_RKE2 v1.33.5 + Canal v3.30
JetBrains

[오류 해결] 파드외부통신복구_Kubernetes·AWS_중급_DevOps_RKE2 on AWS_RKE2 v1.33.5 + Canal v3.30

K8s 파드가 외부 서버를 부를 때 AWS Security Group에 어떤 IP를 넣어야 하는가. IDES(JetBrains IDE Services)에서 겪은 Connection reset by peer 실전 디버깅. Canal SNAT → NAT Gateway 통과로 만들어지는 3단 IP 변환 개념과 kubectl exec + ifconfig.me 진단법.

#JetBrains#Docker#GenAI
[설치 방법] LiteLLM게이트웨이경량반입_LiteLLM+Postgres+Docker_중급_인프라엔지니어_RHEL9.4폐쇄망_LiteLLM v1.95.0
JetBrains

[설치 방법] LiteLLM게이트웨이경량반입_LiteLLM+Postgres+Docker_중급_인프라엔지니어_RHEL9.4폐쇄망_LiteLLM v1.95.0

LiteLLM 게이트웨이만 반입 배포 (Part 6). 폐쇄망 고객사에 이미 vLLM 또는 Ollama가 잘 돌고 있을 때, 그 앞단 통합 라우팅+인증+사용량 추적 계층만 Docker로 추가하는 최소 반입 시나리오. USB 약 2GB (Part 3의 30GB 대비 대폭 감량). 실측 스펙 반영: RHEL 9.4, 커널 5.14.0-427.61.1.el9_4, NVIDIA 570.133.07, host.docker.internal 트릭으로 컨테이너-호스트 연결. vLLM 백엔드(H100)와 Ollama 백엔드(V100) 두 시나리오 모두 커버. 트러블슈팅 8건 포함.

#GenAI#Docker#troubleshooting
[설치 방법] Mellum2단일EC2배포_LiteLLM+vLLM+DockerCompose_고급_인프라엔지니어_AWS+RockyLinux_g6.xlarge+L4
JetBrains

[설치 방법] Mellum2단일EC2배포_LiteLLM+vLLM+DockerCompose_고급_인프라엔지니어_AWS+RockyLinux_g6.xlarge+L4

LiteLLM 게이트웨이 + Mellum2 12B GPU 서빙을 K8s 없이 단일 g6.xlarge EC2에 Docker Compose로 통합 배포하는 완전 가이드. NVIDIA 드라이버·Container Toolkit·인스턴스 스토어 마운트·Docker 데이터 재배치까지 스텝 바이 스텝. Apache + LiteLLM + Postgres + vLLM 4개 프로세스 한 박스에. 실전 트러블 5건(dkms EPEL 순서, root 파티션 미확장, containerd 별도 경로, EC2 리사이즈 후 IP/SG, Compose 네트워크 잔존) 그대로 반영. 실측 76 tok/s on L4 FP8. 폐쇄망 이관은 부록 B 참조.

#GenAI#Docker#troubleshooting