[오류 해결] ValueError: Unrecognized configuration class AutoModelForCausalLM / LlavaForConditionalGeneration

 

 

오류: ValueError: Unrecognized configuration class 클래스 못 찾는 에러 

 

 

ValueError: Unrecognized configuration class <class 'transformers.models.llava.configuration_llava.LlavaConfig'> for this kind of AutoModel: AutoModelForCausalLM. 

 

llavamodel을 hugginface pipeline으로 불러오려고 했는데 AutomodelforcausalLM에서 오류가 났다. 

 

Auto model에 정의된 class에 존재하지 않기 때문 (저 리스트에서 LlavaConfig)가 없다  

 

 

 

 

해결: LlavaForConditionalGeneration 로 불러오면 된다

 

 

model = LlavaForConditionalGeneration.from_pretrained(
    model_id,
    torch_dtype=torch.float16,
    low_cpu_mem_usage=True,
    device_map="auto"
)

 

위와 같이 LlavaForConditionalGeneration 을 불러오면 된다. 

 

내가 여기서 쓴 model_id의 경우 model_id = "llava-hf/llava-1.5-7b-hf"

huggingface llava인 llava-hf에 정의된 모델을 썼다. 

 

 

 

 

---