기본 콘텐츠로 건너뛰기

라벨이 data collator인 게시물 표시

IMDb 데이터셋의 label 열이 DistilBERT 모델 forward() 함수의 labels 인자로 전달되는 과정

IMDb 데이터셋의 label 열이 DistilBERT 모델 forward() 함수의 labels 인자로 전달되는 과정 1. 개요 허깅 페이스의 Transformers 라이브러리를 사용하여 모델을 훈련할 때 데이터셋의 label 항목이 어떤 과정을 거쳐 모델의 forward(..., labels, ...) 메소드로 전달되는지 설명합니다. IMDb 데이터셋에서 추출한 한 개의 데이터 예시 { "text" : "I love sci-fi..." , "label" : 0 } DistilBertForSequenceClassification 클래스의 forward() 메소드 transformers/models/distilbert/modeling_distilbert.py def forward ( . . . , labels : Optional [ torch . LongTensor ] = None , . . . ) - > Union [ SequenceClassifierOutput , Tuple [ torch . Tensor , . . . ] ] : . . . 이 문서에서는 IMDb 데이터셋과 DistilBertForSequenceClassification 모델을 사용하여 설명하지만 특정 데이터셋과 모델에만 해당하는 것은 아닙니다. 이 문서에서 등장하는 주요 API는 다음과 같습니다. datasets.default_data_collator class datasets.Dataset class datasets.DatasetDict class transformers.DataCollatorWithPadding class transformers.DistilBertForSequenceClassification class transformers.Trainer 2. ...