resource · 커뮤니티 참고 · 로컬 실행 미확인
llama.cpp에서 R9700 실험 기록 읽기
커뮤니티 실행 기록을 모델·빌드·GPU 분할 조건과 함께 읽습니다.
llama.cpp 저장소의 R9700 실험 토론을 연결합니다. 사용자 기록은 빌드 커밋, 백엔드, 모델 파일과 양자화, 컨텍스트 길이, GPU 수와 분할 방식에 따라 달라질 수 있습니다.
속도를 비교할 때에는 입력 처리와 토큰 생성, 첫 응답 시간을 구분하고 실패한 실행도 함께 확인하세요. 하나의 성공 사례를 모든 모델 또는 운영체제의 지원으로 확대하지 않습니다. 이 사이트는 연결된 토론을 직접 측정 결과로 표시하지 않습니다.
이 페이지는 출처를 바탕으로 정리한 자료입니다. 원문의 작성자와 R9700 Hub의 설명을 구분해 주세요.
관련 자료
가이드
벤치마크 비교 전에 맞출 조건
모델·정밀도·컨텍스트·GPU 수가 다른 결과는 그대로 순위를 매기기 어렵습니다.
벤치마크vLLMLinux다중 GPU