# MiniCPM-V 4.7 [MiniCPM-V](https://huggingface.co/papers/2509.18154)는 [OpenBMB](https://github.com/OpenBMB)에서 개발한 효율적인 멀티모달 대규모 언어 모델 시리즈입니다. [MiniCPM-V 4.6](./minicpmv4_6)와 마찬가지로, MiniCPM-V 4.7 아키텍처는 윈도우 어텐션 머저를 갖춘 [SigLIP](./siglip) 비전 인코더와 [Qwen3.5](./qwen3_5) 언어 모델 백본을 결합하며, 4x 및 16x 시각 다운샘플링 모드를 모두 지원합니다. 4.6 버전 이후의 주요 추가 기능은 *canvas M-RoPE*입니다. 시각 토큰을 단일 1차원 시퀀스 순서로 번호를 매기는 대신, 모델은 모든 이미지를 2차원 캔버스에 배치하고 각 시각 토큰에 `(temporal, height, width)` 위치를 부여합니다. 이를 통해 동일한 이미지의 조각들은 공간적 관계를 유지하고, 비디오 프레임들은 시간적 순서를 유지합니다. 이 모델은 [OpenBMB](https://huggingface.co/openbmb)에서 기여했습니다. 원본 코드는 [여기](https://github.com/OpenBMB/MiniCPM-V)에서 찾을 수 있습니다. > [!NOTE] > `use_image_id`를 프로세서에 전달하면 하나의 프롬프트에 포함된 여러 이미지에 번호를 매겨 텍스트가 각 이미지를 개별적으로 참조할 수 있습니다. 이 설정은 이미지에만 적용됩니다. 비디오는 여러 개의 참조 가능한 시각 요소가 아니라 프레임의 단일 시간적 시퀀스이며, 모델이 학습된 방식이 바로 이렇기 때문에 비디오 입력의 경우 이 설정은 무시됩니다. ## 사용 예시 ### Pipeline을 사용한 추론 ```python from transformers import pipeline messages = [ { "role": "user", "content": [ { "type": "image", "image": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/bee.jpg", }, {"type": "text", "text": "Describe this image."}, ], }, ] pipe = pipeline("image-text-to-text", model="openbmb/MiniCPM-V-4.7-1B") outputs = pipe(text=messages, max_new_tokens=50, return_full_text=False) outputs[0]["generated_text"] ``` ### 단일 이미지에서 추론 ```python from transformers import AutoProcessor, AutoModelForImageTextToText model_checkpoint = "openbmb/MiniCPM-V-4.7-1B" processor = AutoProcessor.from_pretrained(model_checkpoint) model = AutoModelForImageTextToText.from_pretrained(model_checkpoint, device_map="auto") messages = [ { "role": "user", "content": [ {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"}, {"type": "text", "text": "Describe this image."}, ], } ] inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device, dtype=model.dtype) output = model.generate(**inputs, max_new_tokens=100) decoded_output = processor.decode(output[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True) print(decoded_output) ``` ### 다운샘플링 모드 MiniCPM-V 4.7은 두 가지 시각적 다운샘플링 모드를 지원합니다: - **16x** (기본값): 더 공격적인 다운샘플링, 더 적은 시각 토큰, 더 빠른 추론. - **4x**: 다운샘플링이 적고 시각 토큰이 많아 세부 정보가 많은 작업에 더 적합합니다. `processor_kwargs`와 `model.generate`에 `downsample_mode`를 전달하여 런타임에 다운샘플링 모드를 변경할 수 있습니다: ```python inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", processor_kwargs={"downsample_mode": "4x"}, ).to(model.device, dtype=model.dtype) output = model.generate(**inputs, max_new_tokens=100, downsample_mode="4x") ``` ### 생각 모드 모델은 채팅 템플릿의 `enable_thinking`으로 제어되는 사고(thinking) 모드를 지원합니다. 활성화되면 모델은 최종 답변을 제공하기 전에 내부 추론을 생성합니다: ```python inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", enable_thinking=True, ).to(model.device, dtype=model.dtype) output = model.generate(**inputs, max_new_tokens=1024) ``` 생각(thinking)을 비활성화하려면(평가 기본값): ```python inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", enable_thinking=False, ).to(model.device, dtype=model.dtype) ``` ### 비디오 추론 MiniCPM-V 4.7은 비디오 이해를 지원합니다. ```python messages = [ { "role": "user", "content": [ {"type": "video", "video": "path/to/video.mp4"}, {"type": "text", "text": "Describe what happens in this video."}, ], } ] inputs = processor.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device, dtype=model.dtype) output = model.generate(**inputs, max_new_tokens=200) decoded_output = processor.decode(output[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True) print(decoded_output) ``` ## MiniCPMV4_7Config[[transformers.MiniCPMV4_7Config]] #### transformers.MiniCPMV4_7Config[[transformers.MiniCPMV4_7Config]] ```python transformers.MiniCPMV4_7Config(transformers_version: str | None = None, architectures: list[str] | None = None, output_hidden_states: bool | None = False, return_dict: bool | None = True, dtype: str | torch.dtype | None = None, chunk_size_feed_forward: int = 0, is_encoder_decoder: bool = False, id2label: dict[int, str] | dict[str, str] | None = None, label2id: dict[str, int] | dict[str, str] | None = None, problem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = None, text_config: dict | transformers.configuration_utils.PreTrainedConfig | None = None, vision_config: dict | transformers.configuration_utils.PreTrainedConfig | None = None, insert_layer_id: int = 6, image_size: int = 448, image_token_id: int | None = None, video_token_id: int | None = None, tie_word_embeddings: bool = False, downsample_mode: str = '16x', merge_kernel_size: tuple[int, int] | list[int] = (2, 2), merger_times: int = 1, image_start_id: int | None = None, image_end_id: int | None = None, slice_start_id: int | None = None, slice_end_id: int | None = None, newline_id: int | None = None) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/configuration_minicpmv4_7.py#L66) **매개변수:** text_config (`Union[dict, ~configuration_utils.PreTrainedConfig]`, *선택*) : 텍스트 백본의 config 객체 또는 사전입니다. vision_config (`Union[dict, ~configuration_utils.PreTrainedConfig]`, *선택*) : 비전 백본의 config 객체 또는 사전 정의된 config 딕셔너리입니다. insert_layer_id (`int`, *선택 사항*, 기본값 6) : 윈도우 어텐션 머저가 적용되는 비전 인코더 레이어 인덱스입니다. image_size (`int`, *선택 사항*, 기본값 `448`) : 각 이미지의 크기(해상도). image_token_id (`int`, *선택 사항*) : 입력 이미지의 자리표시자로 사용되는 이미지 토큰 인덱스입니다. video_token_id (`int`, *선택 사항*) : 입력 비디오의 플레이스홀더로 사용되는 비디오 토큰 인덱스입니다. tie_word_embeddings (`bool`, *선택 사항*, 기본값 `False`) : 모델의 `tied_weights_keys` 매핑에 따라 가중치 임베딩을 묶을지 여부. downsample_mode (`str`, *선택 사항*, 기본값 `"16x"`) : 시각 토큰 다운샘플링 비율. `"4x"`는 4배 더 많은 토큰을 유지합니다. merge_kernel_size (`tuple[int, int]`, *선택 사항*, 기본값 `(2, 2)`) : Merger에서 인접한 시각 패치를 병합할 때 사용할 커널 크기 `(h, w)`. merger_times (`int`, *선택 사항*, 기본값 1) : Merger의 반복적 병합 라운드 수. image_start_id (`int`, *선택 사항*) : 이미지 시작 마커(``)의 토큰 ID입니다. Canvas M-RoPE는 이를 이미지 캔버스 왼쪽 위 모서리 바로 바깥의 헤일로에 고정합니다. 변환 스크립트가 토크나이저에서 이를 해석하여 `config.json`에 저장하며, 이미지 또는 비디오 입력에 필요합니다. image_end_id (`int`, *선택 사항*) : 이미지 종료 마커(``)의 토큰 ID입니다. Canvas M-RoPE는 이를 이미지 캔버스의 가장 먼 모서리에 고정합니다. 변환 스크립트가 토크나이저에서 이를 해석하여 `config.json`에 저장하며, 이미지 또는 비디오 입력에 필요합니다. slice_start_id (`int`, *선택 사항*) : 슬라이스 시작 마커(``)의 토큰 ID입니다. Canvas M-RoPE는 이 마커를 열는 슬라이스의 왼쪽 위 모서리에 고정합니다. 변환 스크립트가 토크나이저에서 해석하여 `config.json`에 저장하며, 이미지 또는 비디오 입력에 필요합니다. slice_end_id (`int`, *선택 사항*) : 슬라이드 종료 마커(``)의 토큰 ID입니다. Canvas M-RoPE는 이 마커를 닫는 슬라이드의 오른쪽 아래 모서리에 고정합니다. 변환 스크립트가 토크나이저에서 해석하여 `config.json`에 저장하며, 이미지 또는 비디오 입력에 필요합니다. newline_id (`int`, *선택 사항*) : 슬라이스 행을 구분하는 줄바꿈(`"\n"`)의 토큰 ID입니다. Canvas M-RoPE는 해당 행이 끝나는 위치의 오른쪽 가장자리 바로 뒤에 이를 고정합니다. 변환 스크립트가 토크나이저에서 이를 해석하여 `config.json`에 저장하며, 이미지 또는 비디오 입력에 필수적입니다. 이것은 MiniCPMV4_7Model의 구성을 저장하기 위한 구성 클래스입니다. 지정된 인자에 따라 Minicpmv4 7 모델을 인스턴스화하여 모델 아키텍처를 정의하는 데 사용됩니다. 기본값으로 구성을 인스턴스화하면 [openbmb/MiniCPM-V-4.7-1B](https://huggingface.co/openbmb/MiniCPM-V-4.7-1B)와 유사한 구성이 생성됩니다. Configuration 객체는 [PreTrainedConfig](/docs/transformers/v5.23.0/ko/main_classes/configuration#transformers.PreTrainedConfig)를 상속하며, 모델 출력을 제어하는 데 사용할 수 있습니다. 자세한 내용은 [PreTrainedConfig](/docs/transformers/v5.23.0/ko/main_classes/configuration#transformers.PreTrainedConfig)의 문서를 참고하세요. ## MiniCPMV4_7VisionConfig[[transformers.MiniCPMV4_7VisionConfig]] #### transformers.MiniCPMV4_7VisionConfig[[transformers.MiniCPMV4_7VisionConfig]] ```python transformers.MiniCPMV4_7VisionConfig(transformers_version: str | None = None, architectures: list[str] | None = None, output_hidden_states: bool | None = False, return_dict: bool | None = True, dtype: str | torch.dtype | None = None, chunk_size_feed_forward: int = 0, is_encoder_decoder: bool = False, id2label: dict[int, str] | dict[str, str] | None = None, label2id: dict[str, int] | dict[str, str] | None = None, problem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = None, hidden_size: int = 768, intermediate_size: int = 3072, num_hidden_layers: int = 12, num_attention_heads: int = 12, num_channels: int = 3, image_size: int | list[int] | tuple[int, int] = 224, patch_size: int | list[int] | tuple[int, int] = 16, hidden_act: str = 'gelu_pytorch_tanh', layer_norm_eps: float = 1e-06, attention_dropout: float | int = 0.0, insert_layer_id: int = 6, window_kernel_size: tuple[int, int] | list[int] = (2, 2)) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/configuration_minicpmv4_7.py#L31) **매개변수:** hidden_size (`int`, *선택 사항*, 기본값 `768`) : 숨겨진 표현의 차원. intermediate_size (`int`, *선택 사항*, 기본값 `3072`) : MLP 표현의 차원. num_hidden_layers (`int`, *선택 사항*, 기본값 `12`) : Transformer decoder의 숨겨진 레이어 수입니다. num_attention_heads (`int`, *선택 사항*, 기본값 `12`) : Transformer decoder의 각 attention layer에 사용되는 attention head의 수입니다. num_channels (`int`, *선택 사항*, 기본값 `3`) : 입력 채널의 수입니다. image_size (`Union[int, list[int], tuple[int, int]]`, *선택*, 기본값 `224`) : 각 이미지의 크기(해상도). patch_size (`Union[int, list[int], tuple[int, int]]`, *선택*, 기본값 `16`) : 각 패치의 크기(해상도). hidden_act (`str`, *선택 사항*, 기본값 `gelu_pytorch_tanh`) : 디코더의 비선형 활성화 함수(함수 또는 문자열). 예를 들어, `"gelu"`, `"relu"`, `"silu"` 등. layer_norm_eps (`float`, *선택 사항*, 기본값 `1e-06`) : 레이어 정규화 레이어에서 사용되는 epsilon 값입니다. attention_dropout (`Union[float, int]`, *선택 사항*, 기본값 `0.0`) : attention 확률에 적용할 dropout 비율입니다. insert_layer_id (`int`, *선택 사항*, 기본값 6) : 윈도우 어텐션 머저가 적용되는 비전 인코더 레이어 인덱스입니다. window_kernel_size (`tuple[int, int]`, *선택 사항*, 기본값 `(2, 2)`) : 중간 window-attention merger에 사용할 윈도우 크기 `(h, w)`. 이것은 MiniCPMV4_7Model의 구성을 저장하기 위한 구성 클래스입니다. 지정된 인자에 따라 Minicpmv4 7 모델을 인스턴스화하여 모델 아키텍처를 정의하는 데 사용됩니다. 기본값으로 구성을 인스턴스화하면 [openbmb/MiniCPM-V-4.7-1B](https://huggingface.co/openbmb/MiniCPM-V-4.7-1B)와 유사한 구성이 생성됩니다. Configuration 객체는 [PreTrainedConfig](/docs/transformers/v5.23.0/ko/main_classes/configuration#transformers.PreTrainedConfig)를 상속하며, 모델 출력을 제어하는 데 사용할 수 있습니다. 자세한 내용은 [PreTrainedConfig](/docs/transformers/v5.23.0/ko/main_classes/configuration#transformers.PreTrainedConfig)의 문서를 참고하세요. ## MiniCPMV4_7VisionPreTrainedModel.[[transformers.MiniCPMV4_7VisionPreTrainedModel]] #### transformers.MiniCPMV4_7VisionPreTrainedModel[[transformers.MiniCPMV4_7VisionPreTrainedModel]] ```python transformers.MiniCPMV4_7VisionPreTrainedModel(config: PreTrainedConfig, *inputs, **kwargs) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L401) #### forward[[transformers.MiniCPMV4_7VisionPreTrainedModel.forward]] ```python forward(*args, **kwargs) ``` 점으로 구분된 경로(예: `torch.float32`)에 대한 mock 값입니다: 속성 접근 체인, 호출은 pass-through 데코레이터처럼 동작하며, `repr`은 해당 점으로 구분된 경로입니다. 또한 이를 베이스 클래스로 사용하면 plain-`type` 베이스로 대체됩니다(PEP 560 `__mro_entries__`). 따라서 실제 서브클래스는 정상적인 메타클래스를 유지하고, `inspect.signature`는 mock의 `__init__`가 아닌 실제 `__init__`를 읽습니다. ## MiniCPMV4_7VisionModel[[transformers.MiniCPMV4_7VisionModel]] #### transformers.MiniCPMV4_7VisionModel[[transformers.MiniCPMV4_7VisionModel]] ```python transformers.MiniCPMV4_7VisionModel(config: MiniCPMV4_7VisionConfig) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L415) #### forward[[transformers.MiniCPMV4_7VisionModel.forward]] ```python forward(pixel_values, target_sizes: typing.Optional[torch.IntTensor] = None, use_vit_merger: bool = True, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L447) **매개변수:** pixel_values (`` of shape `(batch_size, num_channels, image_size, image_size)`) : 입력 이미지에 해당하는 텐서입니다. 픽셀 값은 [MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor)를 사용하여 얻을 수 있습니다. 자세한 내용은 [MiniCPMV4_6ImageProcessor.__call__()](/docs/transformers/v5.23.0/ko/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__)를 참조하세요 ([MiniCPMV4_7Processor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Processor)는 이미지 처리에 [MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor)를 사용합니다). target_sizes (`torch.IntTensor`, shape `(batch_size, 2)`, *선택 사항*) : 위치 임베딩을 계산하기 위한 패치 그리드 크기 `(h, w)`. use_vit_merger (`bool`, *선택 사항*, 기본값 `True`) : 인코더 이후에 ViT 윈도우 어텐션 머저를 적용할지 여부. **반환값:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). [MiniCPMV4_7VisionModel](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7VisionModel)의 forward 메서드는 `__call__` 특수 메서드를 오버라이드합니다. `Module` 인스턴스는 전처리 및 후처리 단계를 실행하는 것을 처리하지만, 이 함수는 해당 단계를 조용히 무시하므로, 순전파(forward pass) 레시피를 이 함수 내에서 정의해야 하더라도 이후에는 이 함수 대신 `Module` 인스턴스를 호출해야 합니다. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. - **pooler_output** (`torch.Tensor`, shape `(batch_size, hidden_size)`) -- 시퀀스의 첫 번째 토큰(분류 토큰)의 마지막 레이어 hidden-state입니다. 보조 사전학습 작업을 위해 사용되는 레이어들을 통해 추가 처리된 값입니다. 예를 들어 BERT 계열 모델의 경우, 선형 레이어와 tanh 활성화 함수를 통해 처리된 분류 토큰을 반환합니다. 선형 레이어의 가중치는 사전학습 단계에서 다음 문장 예측(분류) 목적 함수를 통해 학습됩니다. - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. ## MiniCPMV4_7Model[[transformers.MiniCPMV4_7Model]] #### transformers.MiniCPMV4_7Model[[transformers.MiniCPMV4_7Model]] ```python transformers.MiniCPMV4_7Model(config: MiniCPMV4_7Config) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L598) **매개변수:** config ([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config)) : 모델의 모든 매개변수를 포함하는 모델 구성 클래스입니다. 구성 파일로 초기화하는 것은 모델과 관련된 가중치를 로드하지 않으며, 구성 정보만 로드합니다. 모델 가중치를 로드하려면 [from_pretrained()](/docs/transformers/v5.23.0/ko/main_classes/model#transformers.PreTrainedModel.from_pretrained) 메서드를 확인하세요. 언어 모델링 헤드가 없는, 비전 백본과 언어 모델로 구성된 MiniCPMV4_7 모델입니다. 이 모델은 [PreTrainedModel](/docs/transformers/v5.23.0/ko/main_classes/model#transformers.PreTrainedModel)에서 상속됩니다. 라이브러리가 모든 모델에 대해 구현하는 일반적 메서드(다운로드 또는 저장, 입력 임베딩 크기 조정, 헤드 프루닝 등)에 대해서는 상위 클래스 문서를 확인하세요. 이 모델은 또한 PyTorch [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module)의 하위 클래스입니다. 일반적인 PyTorch Module처럼 사용하며, 일반적인 사용법과 동작에 관한 모든 사항은 PyTorch 문서를 참조하세요. #### forward[[transformers.MiniCPMV4_7Model.forward]] ```python forward(input_ids: typing.Optional[torch.LongTensor] = None, pixel_values: typing.Optional[torch.Tensor] = None, target_sizes: typing.Optional[torch.IntTensor] = None, pixel_values_videos: typing.Optional[torch.Tensor] = None, target_sizes_videos: typing.Optional[torch.IntTensor] = None, attention_mask: typing.Optional[torch.Tensor] = None, position_ids: typing.Optional[torch.LongTensor] = None, past_key_values: list[torch.Tensor] | None = None, inputs_embeds: typing.Optional[torch.Tensor] = None, use_cache: bool | None = None, downsample_mode: str | None = None, mm_token_type_ids: typing.Optional[torch.IntTensor] = None, mm_encoder_outputs: dict[str, transformers.modeling_outputs.BaseModelOutputWithPooling] | None = None, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L668) **매개변수:** input_ids (`torch.LongTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 어휘(input sequence tokens)의 인덱스입니다. 기본적으로 패딩은 무시됩니다. [AutoTokenizer](/docs/transformers/v5.23.0/ko/model_doc/auto#transformers.AutoTokenizer)를 사용하여 인덱스를 얻을 수 있습니다. 자세한 내용은 [PreTrainedTokenizer.encode()](/docs/transformers/v5.23.0/ko/internal/tokenization_utils#transformers.PreTrainedTokenizerBase.encode) 및 [PreTrainedTokenizer.__call__()](/docs/transformers/v5.23.0/ko/internal/tokenization_utils#transformers.PreTrainedTokenizerBase.__call__)를 참조하세요. [입력 ID란 무엇인가요?](../glossary#input-ids) pixel_values (`torch.Tensor`, *선택 사항*) : 이미지용 픽셀 값 패치, NaViT 패킹 방식. target_sizes (`torch.IntTensor`, *선택 사항*) : 각 이미지의 높이와 너비(패치 단위). pixel_values_videos (`torch.Tensor`, *선택 사항*) : 비디오 프레임의 픽셀 값 패치, NaViT-packed. target_sizes_videos (`torch.IntTensor`, *선택 사항*) : 각 비디오 프레임의 높이와 너비(패치 단위). attention_mask (`torch.Tensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 패딩 토큰 인덱스에 대한 attention을 수행하지 않도록 방지하는 마스크입니다. `[0, 1]`에서 선택된 마스크 값: - **마스크되지 않은** 토큰은 1, - **마스크된** 토큰은 0. [attention 마스크란?](../glossary#attention-mask) position_ids (`torch.LongTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 각 입력 시퀀스의 토큰 위치 인덱스입니다. `[0, config.n_positions - 1]` 범위에서 선택됩니다. [위치 ID란 무엇인가요?](../glossary#position-ids) past_key_values (`list[torch.Tensor]`, *선택 사항*) : 순차적 디코딩을 가속화할 수 있는 사전 계산된 hidden-states(self-attention 블록과 cross-attention 블록의 key 및 value)입니다. 이는 일반적으로 `use_cache=True` 또는 `config.use_cache=True`일 때 모델이 이전 디코딩 단계에서 반환한 `past_key_values`로 구성됩니다. 입력으로 [Cache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.Cache) 인스턴스만 허용되며, [kv cache 가이드](https://huggingface.co/docs/transformers/en/kv_cache)를 참조하세요. `past_key_values`가 전달되지 않으면 기본적으로 [DynamicCache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.DynamicCache)가 초기화됩니다. 모델은 입력으로 제공된 것과 동일한 캐시 형식을 출력합니다. `past_key_values`를 사용하는 경우, 이 모델에 과거 key value 상태가 제공되지 않은 `input_ids`(처리되지 않은 항목)만 `(batch_size, unprocessed_length)` 형식으로 입력해야 하며, `(batch_size, sequence_length)` 형식의 모든 `input_ids`를 입력하지 않습니다. inputs_embeds (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`, *선택 사항*) : `input_ids`를 전달하는 대신 임베디드 표현을 직접 전달할 수 있습니다. 이는 모델의 내부 임베딩 조회 행렬보다 `input_ids` 인덱스를 관련 벡터로 변환하는 방식에 대해 더 많은 제어가 필요한 경우 유용합니다. use_cache (`bool`, *선택 사항*) : `True`로 설정하면 `past_key_values` 키 값 상태가 반환되며, 디코딩 속도를 높이는 데 사용할 수 있습니다(`past_key_values` 참조). downsample_mode (`str`, *선택 사항*) : `"4x"`는 시각 토큰을 4배 더 유지합니다. 기본값 `"16x"`는 전체 병합을 적용합니다. mm_token_type_ids (`torch.IntTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 각 모달리티에 해당하는 입력 시퀀스 토큰의 인덱스입니다. 예를 들어 텍스트(0), 이미지(1), 비디오(2) 등이 있습니다. 멀티모달 토큰 타입 ID는 [AutoProcessor](/docs/transformers/v5.23.0/ko/model_doc/auto#transformers.AutoProcessor)를 사용하여 얻을 수 있습니다. 자세한 내용은 [ProcessorMixin.__call__()](/docs/transformers/v5.23.0/ko/main_classes/processors#transformers.ProcessorMixin.__call__)를 참조하세요. mm_encoder_outputs (`dict[str, ~modeling_outputs.BaseModelOutputWithPooling]`, *선택 사항*) : 키가 지원되는 모달리티이고 값이 해당 모달리티의 인코딩된 출력인 Dict입니다. 각 인코딩된 출력은 (`pooler_output`, *선택 사항*: `last_hidden_states`, *선택 사항*: `hidden_states`, *선택 사항*: `attentions`)의 튜플로 구성되며, `pooler_output`의 shape은 `(batch_size, sequence_length, hidden_size)`, *선택 사항*)입니다. 이는 인코더의 멀티모달 특징을 텍스트 임베딩으로 병합한 시퀀스입니다. **반환값:** [BaseModelOutputWithPast](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPast) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPast](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPast) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). [MiniCPMV4_7Model](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Model)의 forward 메서드는 `__call__` 특수 메서드를 오버라이드합니다. `Module` 인스턴스는 전처리 및 후처리 단계를 실행하는 것을 처리하지만, 이 함수는 해당 단계를 조용히 무시하므로, 순전파(forward pass) 레시피를 이 함수 내에서 정의해야 하더라도 이후에는 이 함수 대신 `Module` 인스턴스를 호출해야 합니다. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. `past_key_values`가 사용되면, `(batch_size, 1, hidden_size)` 형태의 시퀀스의 마지막 hidden-state만 출력됩니다. - **past_key_values** (`Cache`, *선택 사항*, `use_cache=True`가 전달되었거나 `config.use_cache=True`인 경우 반환됨) -- [Cache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.Cache) 인스턴스입니다. 자세한 내용은 [kv cache 가이드](https://huggingface.co/docs/transformers/en/kv_cache)를 참조하세요. 순차적 디코딩을 가속화하는 데 사용할 수 있는 사전 계산된 hidden-states(셀프 어텐션 블록의 key와 value, 그리고 `config.is_encoder_decoder=True`인 경우 크로스 어텐션 블록의 key와 value)를 포함합니다(입력 `past_key_values` 참조). - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. #### get_image_features[[transformers.MiniCPMV4_7Model.get_image_features]] ```python get_image_features(pixel_values: Tensor, target_sizes: IntTensor, downsample_mode: str | None = None, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L608) **매개변수:** pixel_values (`torch.Tensor`, shape `(batch_size, num_channels, image_size, image_size)`) : 입력 이미지에 해당하는 텐서입니다. 픽셀 값은 [MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor)를 사용하여 얻을 수 있습니다. 자세한 내용은 [MiniCPMV4_6ImageProcessor.__call__()](/docs/transformers/v5.23.0/ko/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__)를 참조하세요 ([MiniCPMV4_7Processor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Processor)는 이미지 처리에 [MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor)를 사용합니다). target_sizes (`torch.IntTensor`, shape `(num_images, 2)`) : 각 이미지의 높이와 너비 (패치 단위). downsample_mode (`str`, *선택 사항*) : `"4x"`로 설정하면 중간 `vit_merger`가 건너뛰어져 각 이미지가 `4×` 더 많은 시각 토큰을 유지합니다. 기본 `"16x"` 모드에서는 전체 병합 파이프라인이 적용됩니다. **반환값:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). 이미지 특징 추출: vision encoder, insert merger, 그리고 MLP merger. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. - **pooler_output** (`torch.Tensor`, shape `(batch_size, hidden_size)`) -- 시퀀스의 첫 번째 토큰(분류 토큰)의 마지막 레이어 hidden-state입니다. 보조 사전학습 작업을 위해 사용되는 레이어들을 통해 추가 처리된 값입니다. 예를 들어 BERT 계열 모델의 경우, 선형 레이어와 tanh 활성화 함수를 통해 처리된 분류 토큰을 반환합니다. 선형 레이어의 가중치는 사전학습 단계에서 다음 문장 예측(분류) 목적 함수를 통해 학습됩니다. - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. #### get_video_features[[transformers.MiniCPMV4_7Model.get_video_features]] ```python get_video_features(pixel_values_videos: Tensor, target_sizes_videos: IntTensor, downsample_mode: str | None = None, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L762) **매개변수:** pixel_values_videos (`torch.Tensor`, shape `(1, channels, patch_size, seq_len)`) : 모든 비디오 프레임에 대한 NaViT-packed 픽셀 패치입니다. 비디오 프로세서가 모든 프레임의 패치를 마지막 차원 방향으로 연결하여 dim-0 = 1인 단일 시퀀스로 구성하며, 이는 이미지 패킹 형식과 동일합니다. target_sizes_videos (`torch.IntTensor`, shape `(num_patches, 2)`) : 각 시각적 단위의 높이와 너비(패치 단위). downsample_mode (`str`, *선택 사항*) : `"4x"`로 설정하면 중간 `vit_merger`가 건너뛰어져 각 프레임이 `4×` 더 많은 시각 토큰을 유지합니다. 기본 `"16x"` 모드에서는 전체 병합 파이프라인이 적용됩니다. **반환값:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). 비디오 특징 추출: 프레임을 NaViT 형식으로 다시 패키징한 다음, 비전 인코더와 머저를 적용합니다. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. - **pooler_output** (`torch.Tensor`, shape `(batch_size, hidden_size)`) -- 시퀀스의 첫 번째 토큰(분류 토큰)의 마지막 레이어 hidden-state입니다. 보조 사전학습 작업을 위해 사용되는 레이어들을 통해 추가 처리된 값입니다. 예를 들어 BERT 계열 모델의 경우, 선형 레이어와 tanh 활성화 함수를 통해 처리된 분류 토큰을 반환합니다. 선형 레이어의 가중치는 사전학습 단계에서 다음 문장 예측(분류) 목적 함수를 통해 학습됩니다. - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. ## MiniCPMV4_7ForConditionalGeneration[[transformers.MiniCPMV4_7ForConditionalGeneration]] #### transformers.MiniCPMV4_7ForConditionalGeneration[[transformers.MiniCPMV4_7ForConditionalGeneration]] ```python transformers.MiniCPMV4_7ForConditionalGeneration(config: MiniCPMV4_7Config) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L1213) **매개변수:** config ([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config)) : 모델의 모든 매개변수를 포함하는 모델 구성 클래스입니다. 구성 파일로 초기화하는 것은 모델과 관련된 가중치를 로드하지 않으며, 구성 정보만 로드합니다. 모델 가중치를 로드하려면 [from_pretrained()](/docs/transformers/v5.23.0/ko/main_classes/model#transformers.PreTrainedModel.from_pretrained) 메서드를 확인하세요. 다른 모달리티(예: 이미지-텍스트-투-텍스트 생성)에 조건부화된 토큰 생성을 위한 Minicpmv4 7 모델. 이 모델은 [PreTrainedModel](/docs/transformers/v5.23.0/ko/main_classes/model#transformers.PreTrainedModel)에서 상속됩니다. 라이브러리가 모든 모델에 대해 구현하는 일반적 메서드(다운로드 또는 저장, 입력 임베딩 크기 조정, 헤드 프루닝 등)에 대해서는 상위 클래스 문서를 확인하세요. 이 모델은 또한 PyTorch [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module)의 하위 클래스입니다. 일반적인 PyTorch Module처럼 사용하며, 일반적인 사용법과 동작에 관한 모든 사항은 PyTorch 문서를 참조하세요. #### forward[[transformers.MiniCPMV4_7ForConditionalGeneration.forward]] ```python forward(input_ids: typing.Optional[torch.LongTensor] = None, pixel_values: typing.Optional[torch.Tensor] = None, target_sizes: typing.Optional[torch.IntTensor] = None, pixel_values_videos: typing.Optional[torch.Tensor] = None, target_sizes_videos: typing.Optional[torch.IntTensor] = None, attention_mask: typing.Optional[torch.Tensor] = None, position_ids: typing.Optional[torch.LongTensor] = None, past_key_values: list[torch.Tensor] | None = None, inputs_embeds: typing.Optional[torch.Tensor] = None, labels: typing.Optional[torch.LongTensor] = None, use_cache: bool | None = None, downsample_mode: str | None = None, mm_token_type_ids: typing.Optional[torch.IntTensor] = None, logits_to_keep: typing.Union[int, torch.Tensor] = 0, mm_encoder_outputs: dict[str, transformers.modeling_outputs.BaseModelOutputWithPooling] | None = None, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L1224) **매개변수:** input_ids (`torch.LongTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 어휘(input sequence tokens)의 인덱스입니다. 기본적으로 패딩은 무시됩니다. [AutoTokenizer](/docs/transformers/v5.23.0/ko/model_doc/auto#transformers.AutoTokenizer)를 사용하여 인덱스를 얻을 수 있습니다. 자세한 내용은 [PreTrainedTokenizer.encode()](/docs/transformers/v5.23.0/ko/internal/tokenization_utils#transformers.PreTrainedTokenizerBase.encode) 및 [PreTrainedTokenizer.__call__()](/docs/transformers/v5.23.0/ko/internal/tokenization_utils#transformers.PreTrainedTokenizerBase.__call__)를 참조하세요. [입력 ID란 무엇인가요?](../glossary#input-ids) pixel_values (`torch.Tensor`, *선택 사항*) : 이미지용 픽셀 값 패치, NaViT 패킹 방식. target_sizes (`torch.IntTensor`, *선택 사항*) : 각 이미지의 높이와 너비(패치 단위). pixel_values_videos (`torch.Tensor`, *선택 사항*) : 비디오 프레임의 픽셀 값 패치, NaViT-packed. target_sizes_videos (`torch.IntTensor`, *선택 사항*) : 각 비디오 프레임의 높이와 너비(패치 단위). attention_mask (`torch.Tensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 패딩 토큰 인덱스에 대한 attention을 수행하지 않도록 방지하는 마스크입니다. `[0, 1]`에서 선택된 마스크 값: - **마스크되지 않은** 토큰은 1, - **마스크된** 토큰은 0. [attention 마스크란?](../glossary#attention-mask) position_ids (`torch.LongTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 각 입력 시퀀스의 토큰 위치 인덱스입니다. `[0, config.n_positions - 1]` 범위에서 선택됩니다. [위치 ID란 무엇인가요?](../glossary#position-ids) past_key_values (`list[torch.Tensor]`, *선택 사항*) : 순차적 디코딩을 가속화할 수 있는 사전 계산된 hidden-states(self-attention 블록과 cross-attention 블록의 key 및 value)입니다. 이는 일반적으로 `use_cache=True` 또는 `config.use_cache=True`일 때 모델이 이전 디코딩 단계에서 반환한 `past_key_values`로 구성됩니다. 입력으로 [Cache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.Cache) 인스턴스만 허용되며, [kv cache 가이드](https://huggingface.co/docs/transformers/en/kv_cache)를 참조하세요. `past_key_values`가 전달되지 않으면 기본적으로 [DynamicCache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.DynamicCache)가 초기화됩니다. 모델은 입력으로 제공된 것과 동일한 캐시 형식을 출력합니다. `past_key_values`를 사용하는 경우, 이 모델에 과거 key value 상태가 제공되지 않은 `input_ids`(처리되지 않은 항목)만 `(batch_size, unprocessed_length)` 형식으로 입력해야 하며, `(batch_size, sequence_length)` 형식의 모든 `input_ids`를 입력하지 않습니다. inputs_embeds (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`, *선택 사항*) : `input_ids`를 전달하는 대신 임베디드 표현을 직접 전달할 수 있습니다. 이는 모델의 내부 임베딩 조회 행렬보다 `input_ids` 인덱스를 관련 벡터로 변환하는 방식에 대해 더 많은 제어가 필요한 경우 유용합니다. labels (`torch.LongTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : masked language modeling loss를 계산하기 위한 라벨. 인덱스는 `[0, ..., config.vocab_size]` 범위 내이거나 -100이어야 합니다(`input_ids` docstring 참조). 인덱스가 `-100`으로 설정된 토큰은 무시(마스크)되며, loss는 `[0, ..., config.vocab_size]` 범위의 라벨을 가진 토큰에 대해서만 계산됩니다. use_cache (`bool`, *선택 사항*) : `True`로 설정하면 `past_key_values` 키 값 상태가 반환되며, 디코딩 속도를 높이는 데 사용할 수 있습니다(`past_key_values` 참조). downsample_mode (`str`, *선택 사항*) : `"4x"`는 시각 토큰을 4배 더 유지합니다. 기본값 `"16x"`는 전체 병합을 적용합니다. mm_token_type_ids (`torch.IntTensor`, shape `(batch_size, sequence_length)`, *선택 사항*) : 각 모달리티에 해당하는 입력 시퀀스 토큰의 인덱스입니다. 예를 들어 텍스트(0), 이미지(1), 비디오(2) 등이 있습니다. 멀티모달 토큰 타입 ID는 [AutoProcessor](/docs/transformers/v5.23.0/ko/model_doc/auto#transformers.AutoProcessor)를 사용하여 얻을 수 있습니다. 자세한 내용은 [ProcessorMixin.__call__()](/docs/transformers/v5.23.0/ko/main_classes/processors#transformers.ProcessorMixin.__call__)를 참조하세요. logits_to_keep (`Union[int, torch.Tensor]`, *선택 사항*, 기본값 `0`) : `int`인 경우, 마지막 `logits_to_keep` 토큰에 대한 logits를 계산합니다. `0`인 경우, 모든 `input_ids`에 대한 logits를 계산합니다(특수한 경우). 생성에는 마지막 토큰의 logits만 필요하며, 해당 토큰에 대해서만 계산하면 메모리를 절약할 수 있습니다. 이는 긴 시퀀스나 큰 어휘 크기의 경우 상당한 이점을 제공합니다. `torch.Tensor`인 경우, 시퀀스 길이 차원에서 유지할 인덱스에 해당하는 1차원 텐서여야 합니다. 이는 packed tensor 형식(배치와 시퀀스 길이를 단일 차원으로 사용하는 경우)을 사용할 때 유용합니다. mm_encoder_outputs (`dict[str, ~modeling_outputs.BaseModelOutputWithPooling]`, *선택 사항*) : 키가 지원되는 모달리티이고 값이 해당 모달리티의 인코딩된 출력인 Dict입니다. 각 인코딩된 출력은 (`pooler_output`, *선택 사항*: `last_hidden_states`, *선택 사항*: `hidden_states`, *선택 사항*: `attentions`)의 튜플로 구성되며, `pooler_output`의 shape은 `(batch_size, sequence_length, hidden_size)`, *선택 사항*)입니다. 이는 인코더의 멀티모달 특징을 텍스트 임베딩으로 병합한 시퀀스입니다. **반환값:** [CausalLMOutputWithPast](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.CausalLMOutputWithPast) 또는 `tuple(torch.Tensor)` [MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config) 및 입력에 따라 다양한 요소를 포함하는 [CausalLMOutputWithPast](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.CausalLMOutputWithPast) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되었거나 `config.return_dict=False`인 경우). [MiniCPMV4_7ForConditionalGeneration](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7ForConditionalGeneration)의 forward 메서드는 `__call__` 특수 메서드를 오버라이드합니다. `Module` 인스턴스는 전처리 및 후처리 단계를 실행하는 것을 처리하지만, 이 함수는 해당 단계를 조용히 무시하므로, 순전파(forward pass) 레시피를 이 함수 내에서 정의해야 하더라도 이후에는 이 함수 대신 `Module` 인스턴스를 호출해야 합니다. - **loss** (`torch.Tensor`, shape `(1,)`, *선택 사항*, `labels`가 제공될 때 반환됨) -- 언어 모델링 손실(다음 토큰 예측용). - **logits** (`torch.Tensor`, shape `(batch_size, sequence_length, config.vocab_size)`) -- 언어 모델링 헤드에서 생성된 예측 점수(SoftMax 적용 전 각 어휘 토큰에 대한 점수). - **past_key_values** (`Cache`, *선택 사항*, `use_cache=True`가 전달되었거나 `config.use_cache=True`인 경우 반환됨) -- [Cache](/docs/transformers/v5.23.0/ko/internal/generation_utils#transformers.Cache) 인스턴스입니다. 자세한 내용은 [kv cache 가이드](https://huggingface.co/docs/transformers/en/kv_cache)를 참조하세요. 순차적 디코딩을 가속화하는 데 사용할 수 있는 사전 계산된 hidden-states(셀프 어텐션 블록의 key와 value)를 포함합니다(입력 `past_key_values` 참조). - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. 예: ```python >>> from PIL import Image >>> from transformers import AutoProcessor, MiniCPMV4_7ForConditionalGeneration >>> model = MiniCPMV4_7ForConditionalGeneration.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> processor = AutoProcessor.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> messages = [ ... { ... "role": "user", "content": [ ... {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"}, ... {"type": "text", "text": "Where is the cat standing?"}, ... ] ... }, ... ] >>> inputs = processor.apply_chat_template( ... messages, ... tokenize=True, ... return_dict=True, ... return_tensors="pt", ... add_generation_prompt=True ... ) >>> # Generate >>> generate_ids = model.generate(**inputs) >>> processor.batch_decode(generate_ids, skip_special_tokens=True)[0] ``` #### get_image_features[[transformers.MiniCPMV4_7ForConditionalGeneration.get_image_features]] ```python get_image_features(*args, **kwargs) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L1294) **반환값:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). 이미지 특징 추출: vision encoder, insert merger, 그리고 MLP merger. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. - **pooler_output** (`torch.Tensor`, shape `(batch_size, hidden_size)`) -- 시퀀스의 첫 번째 토큰(분류 토큰)의 마지막 레이어 hidden-state입니다. 보조 사전학습 작업을 위해 사용되는 레이어들을 통해 추가 처리된 값입니다. 예를 들어 BERT 계열 모델의 경우, 선형 레이어와 tanh 활성화 함수를 통해 처리된 분류 토큰을 반환합니다. 선형 레이어의 가중치는 사전학습 단계에서 다음 문장 예측(분류) 목적 함수를 통해 학습됩니다. - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. 예: ```python >>> from PIL import Image >>> from transformers import AutoProcessor, MiniCPMV4_7ForConditionalGeneration >>> model = MiniCPMV4_7ForConditionalGeneration.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> processor = AutoProcessor.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> messages = [ ... { ... "role": "user", "content": [ ... {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"}, ... {"type": "text", "text": "Where is the cat standing?"}, ... ] ... }, ... ] >>> inputs = processor.apply_chat_template( ... messages, ... tokenize=True, ... return_dict=True, ... return_tensors="pt", ... add_generation_prompt=True ... ) >>> # Generate >>> generate_ids = model.generate(**inputs) >>> processor.batch_decode(generate_ids, skip_special_tokens=True)[0] ``` #### get_video_features[[transformers.MiniCPMV4_7ForConditionalGeneration.get_video_features]] ```python get_video_features(*args, **kwargs) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/modeling_minicpmv4_7.py#L1298) **반환값:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `tuple(torch.Tensor)` 구성([MiniCPMV4_7Config](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Config))과 입력에 따라 다양한 요소를 포함하는 [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/ko/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) 또는 `torch.Tensor`의 튜플(`return_dict=False`가 전달되거나 `config.return_dict=False`인 경우). 비디오 특징 추출: 프레임을 NaViT 형식으로 다시 패키징한 다음, 비전 인코더와 머저를 적용합니다. - **last_hidden_state** (`torch.Tensor`, shape `(batch_size, sequence_length, hidden_size)`) -- 모델의 마지막 레이어 출력에서 생성된 hidden-state 시퀀스입니다. - **pooler_output** (`torch.Tensor`, shape `(batch_size, hidden_size)`) -- 시퀀스의 첫 번째 토큰(분류 토큰)의 마지막 레이어 hidden-state입니다. 보조 사전학습 작업을 위해 사용되는 레이어들을 통해 추가 처리된 값입니다. 예를 들어 BERT 계열 모델의 경우, 선형 레이어와 tanh 활성화 함수를 통해 처리된 분류 토큰을 반환합니다. 선형 레이어의 가중치는 사전학습 단계에서 다음 문장 예측(분류) 목적 함수를 통해 학습됩니다. - **hidden_states** (`tuple(torch.Tensor)`, *선택 사항*, `output_hidden_states=True`가 전달되었거나 `config.output_hidden_states=True`인 경우 반환됨) -- `torch.Tensor`의 튜플(모델에 임베딩 레이어가 있는 경우 임베딩 출력 1개 + 각 레이어의 출력 1개)로, 형태는 `(batch_size, sequence_length, hidden_size)`입니다. 각 레이어의 출력에서 모델의 Hidden-states와 선택적 초기 임베딩 출력을 포함합니다. - **attentions** (`tuple(torch.Tensor)`, *선택 사항*, `output_attentions=True`가 전달되었거나 `config.output_attentions=True`인 경우 반환됨) -- 각 레이어마다 하나씩 포함된 `torch.Tensor`의 튜플로, 모양은 `(batch_size, num_heads, sequence_length, sequence_length)`입니다. self-attention 헤드에서 가중 평균을 계산하는 데 사용되는 attention softmax 이후의 attention 가중치입니다. 예: ```python >>> from PIL import Image >>> from transformers import AutoProcessor, MiniCPMV4_7ForConditionalGeneration >>> model = MiniCPMV4_7ForConditionalGeneration.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> processor = AutoProcessor.from_pretrained("openbmb/MiniCPM-V-4.7-1B") >>> messages = [ ... { ... "role": "user", "content": [ ... {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"}, ... {"type": "text", "text": "Where is the cat standing?"}, ... ] ... }, ... ] >>> inputs = processor.apply_chat_template( ... messages, ... tokenize=True, ... return_dict=True, ... return_tensors="pt", ... add_generation_prompt=True ... ) >>> # Generate >>> generate_ids = model.generate(**inputs) >>> processor.batch_decode(generate_ids, skip_special_tokens=True)[0] ``` ## MiniCPMV4_7Processor[[transformers.MiniCPMV4_7Processor]] #### transformers.MiniCPMV4_7Processor[[transformers.MiniCPMV4_7Processor]] ```python transformers.MiniCPMV4_7Processor(image_processor = None, video_processor = None, tokenizer = None, chat_template = None, **kwargs) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/processing_minicpmv4_7.py#L45) **매개변수:** image_processor (`MiniCPMV4_6ImageProcessor`) : 이미지 프로세서가 필수 입력입니다. video_processor (`MiniCPMV4_6VideoProcessor`) : 비디오 프로세서가 필수 입력입니다. tokenizer (`TokenizersBackend`) : 토크나이저는 필수 입력입니다. chat_template (`str`) : 채팅의 메시지 목록을 토큰화 가능한 문자열로 변환하는 Jinja 템플릿입니다. 이미지 프로세서, 비디오 프로세서, 토크나이저를 단일 프로세서로 묶는 MiniCPMV4_7Processor를 생성합니다. [MiniCPMV4_7Processor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_7#transformers.MiniCPMV4_7Processor)는 [MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor), [MiniCPMV4_6VideoProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6VideoProcessor), [TokenizersBackend](/docs/transformers/v5.23.0/ko/main_classes/tokenizer#transformers.TokenizersBackend)의 모든 기능을 제공합니다. 자세한 내용은 [~MiniCPMV4_6ImageProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6ImageProcessor), [~MiniCPMV4_6VideoProcessor](/docs/transformers/v5.23.0/ko/model_doc/minicpmv4_6#transformers.MiniCPMV4_6VideoProcessor), [~TokenizersBackend](/docs/transformers/v5.23.0/ko/main_classes/tokenizer#transformers.TokenizersBackend)를 참고하세요. #### __call__[[transformers.MiniCPMV4_7Processor.__call__]] ```python __call__(images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor'], NoneType] = None, text: str | list[str] | list[list[str]] | None = None, videos: typing.Union[list['PIL.Image.Image'], numpy.ndarray, ForwardRef('torch.Tensor'), list[numpy.ndarray], list['torch.Tensor'], list[list['PIL.Image.Image']], list[list[numpy.ndarray]], list[list['torch.Tensor']], transformers.video_utils.URL, list[transformers.video_utils.URL], list[list[transformers.video_utils.URL]], transformers.video_utils.Path, list[transformers.video_utils.Path], list[list[transformers.video_utils.Path]], NoneType] = None, **kwargs: *) ``` [소스](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/minicpmv4_7/processing_minicpmv4_7.py#L82) **매개변수:** images (*Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list[PIL.Image.Image], list[numpy.ndarray], list[torch.Tensor]]*, *optional*) : 전처리할 이미지. 픽셀 값이 0에서 255 범위로 이루어진 단일 이미지 또는 배치 이미지를 기대합니다. 픽셀 값이 0에서 1 사이인 이미지를 전달하는 경우 *do_rescale=False*로 설정하세요. text (*Union[str, list[str], list[list[str]]]*, *optional*) : The sequence or batch of sequences to be encoded. Each sequence can be a string or a list of strings (pretokenized string). If you pass a pretokenized input, set *is_split_into_words=True* to avoid ambiguity with batched inputs. videos (*Union[list[PIL.Image.Image], numpy.ndarray, torch.Tensor, list[numpy.ndarray], list[torch.Tensor], list[list[PIL.Image.Image]], list[list[numpy.ndarray]], list[list[torch.Tensor]], ~video_utils.URL, list[~video_utils.URL], list[list[~video_utils.URL]], ~video_utils.Path, list[~video_utils.Path], list[list[~video_utils.Path]]]*, *optional*) : 전처리할 비디오입니다. 픽셀 값이 0에서 255 범위로 이루어진 단일 또는 배치 비디오를 기대합니다. 픽셀 값이 0에서 1 사이인 비디오를 전달하는 경우 *do_rescale=False*로 설정하세요. return_mm_token_type_ids (*bool*, *kwargs*) : 멀티모달 플레이스홀더 토큰의 위치를 나타내는 멀티모달 토큰 타입 ID를 반환할지 여부. return_text_replacement_offsets (*bool*, *kwargs*) : 각 멀티모달 플레이스홀더와 그 대체 문자열의 문자 오프셋을 반환할지 여부. use_image_id (*bool*, *kwargs*, *선택*) : 각 이미지 플레이스홀더 앞에 이미지-id 태그(`N`)를 붙일지 여부입니다. 설정하지 않으면 이미지 프로세서의 *use_image_id* 기본값을 사용합니다. return_tensors (*str* 또는 [*~utils.TensorType*], *optional*) : 설정된 경우, 특정 프레임워크의 텐서를 반환합니다. 허용되는 값은 다음과 같습니다: - *'pt'*: PyTorch *torch.Tensor* 객체를 반환합니다. - *'np'*: NumPy *np.ndarray* 객체를 반환합니다. - ****kwargs** ([*ProcessingKwargs*], *선택*) : 각 모달리티(텍스트, 이미지, 비디오, 오디오)에 대한 추가 처리 옵션입니다. 모델별 매개변수는 위에 나열되어 있으며, 지원되는 인수의 전체 목록은 TypedDict 클래스를 참조하세요.