OpineSum Entailment-based self-training for abstractive opinion summarization

OpineSum Entailment-based self-training for abstractive opinion summarization_변현정.pdf

•

0 likes•63 views

오늘은 의견 요약 분야에서의 흥미로운 발전에 대해 이야기하고자 합니다. 특히, 제품이나 장소에 대한 수백 개의 리뷰를 요약하는 것은 중요하고도 어려운 과제인데요, 최근에 이를 위한 새로운 자가학습 접근법, 'OpineSum'이 소개되었습니다. 1. 의견 요약의 중요성 일반적으로 제품이나 장소에 대한 리뷰는 많은 양으로 존재합니다. 이러한 리뷰들을 요약하는 것은 사용자가 정보를 빠르게 파악하는 데 도움을 주며, 의사결정 과정을 간소화할 수 있습니다. 2. 기존의 접근 방식과 한계 뉴스 분야에서의 추상적 요약은 수백만 개의 뉴스 기사와 함께 제공되는 인간 작성 요약을 통해 훈련된 감독 시스템에 의해 큰 진전을 보였습니다. 하지만 의견 텍스트의 경우, 이러한 대규모 데이터셋이 드물게 존재합니다. 3. OpineSum의 소개 이러한 문제를 해결하기 위해, 'OpineSum'이라는 새로운 자가학습 접근법이 제안되었습니다. 이 방법은 텍스트 함축의 새로운 응용을 사용하여 여러 리뷰에서의 의견 합의를 포착하는 요약을 구축합니다. 4. OpineSum의 작동 방식 OpineSum은 대규모에서 은근한 표준 요약을 얻을 수 있으며, 비지도 및 소수샷 추상적 요약 시스템 훈련에 사용할 수 있습니다. 이 방법은 SOTA 달성했습니다. OpineSum은 의견 요약의 새로운 지평을 열고, 대규모 데이터가 부족한 상황에서도 효과적인 요약을 생성할 수 있는 방법을 제시합니다. 이러한 발전은 의견 요약 기술의 미래에 큰 영향을 미칠 것으로 기대됩니다. 오늘 논문 리뷰를 위해 자연어 처리 변현정님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다! https://youtu.be/gqJCWyYPtXQ

OpineSum: Entailment-based self-training
for abstractive opinion summarization
Annie Louis, Joshua Maynez, Google Research. 2022

Experiments
Conclusions
Introduction
Related Work
01
02
03
04

Introduction
• OpineSum
 Abstractive Opinion summarization : Entailment-base self-training
 Textual entailment and capture the consensus of opinions
 Train both unsupervised and few-shot learning

• Unsupervised neural networks
 Auto-encoder : input data Encoder Focus
 VAEs(Variation Auto Encoders) : Generate Decoder
• Self-training methods
• Unlabeled data features, auto labeling, pretraining and fine-tunning
• Few-shot learning : k-way n-shot , Similarity learning
Related Work

• Defining review consensus
 find out how often the collection supports the proposition,
• Extracting propositions
 split review sentences into propositions and use our key units
• Scoring consensus
 , , proposition
• Silver summaries
 MMR(Maximal Marginal Relevance)
Textual entailment to identify consensus

Consensus opinion
• Consensus or common opinion
 the SPACE corpus ( on TripAdvisor.com)
“location is right across balboa park”
: summary-worthy one
* create our silver-standard data

Consensus opinion
• Consensus or common opinion
 Same claim may be expressed
“This hotel is in the heart of Times Square ” ,
‘Hotel’s location is slap bang in the middle of Times Square.’
“The fishis tasty” and ‘The salmon is delicious’

Consensus opinion
• Extracting propositions
 Long review sentences : contain a bunch of different claims
-> split sentences into propositions : as a ‘single claim or fact’
(* conjunctions, period, and comma subject to a length of four)

Consensus opinion
• Scoring consensus
 the M propositions
• textual entailment rela on as P → H (P is a premise and H is a hypothesis)
BERT-large : [CLS] Token (a linear layer to predict three classes: entailment, contradiction and neutral)
 Apache Beam1 pipeline
review
proposition

Consensus opinion
• Silver summaries
• decreasing order of their scores S(mi)
• take the top n as the silver summary sentences
• edundancy removal technique : MMR (maximal marginal relevance)
Highest scoring proposition

Consensus opinion
• Silver summaries
• P1 was extracted from R2
• P2 from R4

OpineSum Entailment-based self-training for abstractive opinion summarization_변현정.pdf

• Dataset
 Unlabelled review corpus
 Evaluation dataset containing with human summaries
 SPACE-unlabeled : 1.1 million reviews for 11,000 hotels
 SPACE-eval : human generated summaries for a smaller set of 50 hotels
• Models
 T5 (Text-to-Text Transfer Transformer)
 Pre-trained encoder-decoder models based on T5’s framework
 LongT5 : polynomial scale relationship to input length
Experiments

• Evaluation
 Silver Data (as SPACE-OpineSum) : the unlabelled review corpus
• SPACE items with a minimum of 50 reviews (4,729 items)
• Computed 1.3B entailment predictions
 Self-training
• Unsupervised and few-shot learning abstractive summarization
• Trained LongT5-Large (770M parameters) and LongT5-(Large, XL)
• Compare these systems with prior unsupervised work in the SPACE-eval dataset
• the ROUGE performance on the validation set
Experiments

• Evaluation
 Few-shot Learning
• SPACE-eval (25 total) : training set (15items) and validation set(10 items)
• Reduced learning rate, 1/5th of the standard 1e−4
Experiments

Results
OPINESUM system use self-training only

Conclusion
 simple self-training approach both unsupervised and few-shot
 using the entailment weights (scores) of each proposition
 self-training models could serve as checkpoints

안녕하세요 딥러닝 논문읽기 모임 입니다! 오늘 소개할 논문은 3D관련 업무를 진행 하시는/ 희망하시는 분들의 필수 논문인 VoxelNET 입니다. 발표자료:/taeseonryu/mcsemultimodal-contrastive-learning-of-sentence-embeddings 안녕하세요! 딥러닝 논문읽기 모임입니다. 오늘은 자율 주행, 가정용 로봇, 증강/가상 현실과 같은 다양한 응용 분야에서 중요한 문제인 3D 포인트 클라우드에서의 객체 탐지에 대한 획기적인 진전을 소개하고자 합니다. 이를 위해 'VoxelNet'이라는 새로운 3D 탐지 네트워크에 대해 알아보겠습니다. 1. 기존 방법의 한계 기존의 많은 노력은 수동으로 만들어진 특징 표현, 예를 들어 새의 눈 시점 투영 등에 집중해 왔습니다. 하지만 이러한 방법들은 LiDAR 포인트 클라우드와 영역 제안 네트워크(RPN) 사이의 연결을 효과적으로 수행하기 어렵습니다. 2. VoxelNet의 혁신적 접근법 VoxelNet은 3D 포인트 클라우드를 위한 수동 특징 공학의 필요성을 없애고, 특징 추출과 바운딩 박스 예측을 단일 단계, end-to-end 학습 가능한 깊은 네트워크로 통합합니다. VoxelNet은 포인트 클라우드를 균일하게 배치된 3D 복셀로 나누고, 새롭게 도입된 복셀 특징 인코딩(VFE) 레이어를 통해 각 복셀 내의 포인트 그룹을 통합된 특징 표현으로 변환합니다. 3. 효과적인 기하학적 표현 학습 이 방식을 통해 포인트 클라우드는 서술적인 체적 표현으로 인코딩되며, 이는 RPN에 연결되어 탐지를 생성합니다. VoxelNet은 다양한 기하학적 구조를 가진 객체의 효과적인 구별 가능한 표현을 학습합니다. 4. 성능 평가 KITTI 자동차 탐지 벤치마크에서의 실험 결과, VoxelNet은 기존의 LiDAR 기반 3D 탐지 방법들을 큰 차이로 능가했습니다. 또한, LiDAR만을 기반으로 한 보행자와 자전거 탐지에서도 희망적인 결과를 보였습니다. VoxelNet의 도입은 3D 포인트 클라우드에서의 객체 탐지를 혁신적으로 개선하고 있으며, 이 분야에서의 미래 발전에 중요한 영향을 미칠 것으로 기대됩니다. 오늘 논문 리뷰를 위해 이미지처리 허정원님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다! https://youtu.be/yCgsCyoJoMg

3D Gaussian Splattingtaeseon ryu

��

"3D Gaussian Splatting for Real-Time Radiance Field Rendering"은 고화질의 실시간 복사장 렌더링을 가능하게 하는 새로운 방법을 소개합니다. 이 방법은 혁신적인 3D 가우시안 장면 표현과 실시간 차별화 렌더러를 결합하여, 장면 최적화 및 새로운 시점 합성에서 상당한 속도 향상을 가능하게 합니다. 기존의 신경 복사장(NeRF) 방법들이 광범위한 훈련과 렌더링 자원을 요구하는 문제에 대한 해결책을 제시하며, 1080p 해상도에서 실시간 성능과 고품질의 새로운 시점 합성을 위해 설계되었습니다. 이는 이전 방법들에 비해 효율성과 품질 면에서 진보를 이루었습니다

JetsonTX2 Python taeseon ryu

��

Hyperbolic Image Embedding.pptxtaeseon ryu

��

이 논문은 컴퓨터 비전 작업, 예를 들면 이미지 분류, 검색 및 몇 번의 학습과 같은 작업에서의 하이퍼볼릭 임베딩의 사용에 대해 논의합니다. 저자들은 이미지 간의 계층적 관계를 임베딩하는 데 하이퍼볼릭 공간이 더 적합하다고 주장하며, 이러한 관계는 컴퓨터 비전 작업에서 흔히 볼 수 있습니다. 그들은 데이터셋의 초계성을 평가하는 방법을 제안하고, 하이퍼볼릭 임베딩이 이미지 분류와 몇 번의 학습을 위해 사용되는 표준 아키텍처의 성능을 향상시킬 수 있다고 보여줍니다. 또한, 이 논문은 하이퍼 볼릭 공간과 하이퍼볼릭 추정에 대한 기억을 상기시켜 줍니다.

MCSE_Multimodal Contrastive Learning of Sentence Embeddings_변현정taeseon ryu

��

이 논문은 MCSE라는 새로운 접근법을 제시하며, 시각과 텍스트 정보를 결합하여 의미있는 문장 임베딩을 학습합니다. 다양한 데이터셋과 사전 훈련된 인코더에서 성능 향상을 보이며, 의미론적으로 유사한 문장을 잘 정렬합니다. 또한, 비전을 추가 의미 정보로 사용함으로써 문장 표현 학습을 더욱 촉진할 수 있다는 주장을 하고 있습니다. 이 방법은 기존의 문장 임베딩 학습 방법과 비교되며, 그 결과로서 이론과 실제에서 모두 탁월한 성능을 보입니다.

LLaMA Open and Efficient Foundation Language Models - 230528.pdftaeseon ryu

��

This document summarizes the LLaMa model, which is an open and efficient foundation language model. [1] LLaMa achieves state-of-the-art performance on various tasks while being trained exclusively on publicly available data and requiring only a single GPU for inference, making it more accessible than other large models. [2] Key aspects of LLaMa include pre-normalization, SwiGLU activation, rotary embeddings, and efficient implementation techniques. It was trained on 1.4 trillion tokens of publicly available data using 2048 A100 GPUs over 5 months. [3] Evaluation shows LLaMa outperforms other models on common sense reasoning, question answering, reading comprehension,

YOLO V6taeseon ryu

��

이 논문은 데이터셋 디스틸레이션에 대한 새로운 접근법을 제안합니다. 데이터셋 디스틸레이션은 전체 데이터셋에서 학습된 모델의 테스트 정확도를 일치시킬 수 있는 작은 데이터셋을 합성하는 작업입니다. 제안된 방법은 디스틸레이션 데이터를 최적화하여 실제 데이터로 학습된 네트워크와 유사한 상태로 이끌어냅니다. 이 방법은 기존 방법들을 능가하며, 더 높은 해상도의 시각 데이터를 디스틸레이션할 수 있게 합니다. 데이터셋 디스틸레이션은 지속적인 학습, 신경 아키텍처 검색, 개인정보 보호 ML 등 다양한 응용 분야가 있습니다.

Dataset Distillation by Matching Training Trajectories taeseon ryu

��

RL_UpsideDowntaeseon ryu

��

이 논문은 강화 학습(Reinforcement Learning, RL)을 감독 학습(Supervised Learning, SL)의 형태로 변환하는 새로운 접근법을 제안합니다. 이를 'Upside Down RL (UDRL)'이라 부릅니다. 표준 RL은 보상을 예측하는 반면, UDRL은 보상을 작업 정의 입력으로 사용하며, 시간 지향성과 기타 계산 가능한 함수를 이력 데이터와 원하는 미래 데이터에 적용합니다. UDRL은 이러한 입력 관찰을 명령으로 해석하고, 과거 경험에 대한 SL을 통해 이를 행동(또는 행동 확률)에 매핑하여 학습합니다. UDRL은 높은 보상이나 다른 목표를 달성하기 위해 일반화하며, 이는 "주어진 시간 내에 많은 보상을 얻으라!"와 같은 입력 명령을 통해 이루어집니다. 또한 UDRL은 탐색 전략을 개선하는 방법을 배울 수 있습니다. 별도의 논문에서는 UDRL의 초기 버전이 특정 강화 학습 문제에서 전통적인 기준 알고리즘을 능가할 수 있다는 것을 보여줍니다. 이 논문은 또한 로봇이 사람을 모방하는 방법을 가르치는 접근법을 개념적으로 단순화합니다. 먼저 로봇의 현재 행동을 모방하는 사람들을 비디오로 촬영한 다음, 로봇이 이 비디오(입력 명령으로)를 이러한 행동에 매핑하는 방법을 SL을 통해 학습하게 합니다. 그런 다음 로봇은 일반화하고 이전에 알려지지 않은 행동을 실행하는 사람들의 비디오를 모방하게 됩니다. 오늘 논문 리뷰를 위해 강화학습 이도현님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다! https://youtu.be/bsBvKdKCc1E

Packed Levitated Marker for Entity and Relation Extractiontaeseon ryu

��

PL-Marker is a span representation method that uses packed levitated markers to consider the interrelations between spans for named entity recognition and relation extraction tasks. It strategically inserts solid and levitated markers into the encoder to represent spans and span pairs. In experiments, PL-Marker achieved state-of-the-art results on several NER and RE datasets, outperforming previous methods. It obtains better performance by modeling the interrelations between spans that share the same subject or object entities.

MOReL: Model-Based Offline Reinforcement Learningtaeseon ryu

��

오늘 소개할 논문은 'MOReL: Model-Based Offline Reinforcement Learning'입니다. 이 논문은 오프라인 강화 학습(Reinforcement Learning, RL)에 초점을 맞추고 있습니다. 오프라인 RL은 행동 정책을 개선하기 위해 사전에 수집된 데이터만을 사용하는 학습 방법입니다. 이 논문에서는 MOReL이라는 새로운 알고리즘 프레임워크를 제시하며, 이는 오프라인 RL을 위한 것입니다. MOReL은 두 단계로 구성되어 있습니다: 첫째, 오프라인 데이터셋을 사용하여 비관적인 MDP(Model-based Decision Process)를 학습하고, 둘째, 이 P-MDP에서 거의 최적의 정책을 학습합니다. 학습된 P-MDP는 정책 평가와 학습에 대한 좋은 대리자 역할을 하며, 모델 기반 RL의 일반적인 함정인 모델 활용을 극복합니다. 이 논문에서는 MOReL이 오프라인 RL에 대해 최소최대 최적(minimax optimal)이며, 널리 연구된 벤치마크에서 최첨단 성능을 달성함을 보여줍니다. 또한, 이 논문은 오프라인 RL의 중요한 문제인 행동 정책의 안전성에 대한 중요한 통찰력을 제공합니다. 이 논문은 오프라인 강화 학습의 새로운 접근법을 제시하며, 이를 통해 더 효율적인 방식으로 다양한 강화 학습 작업에 대한 성능을 향상시킬 수 있음을 보여줍니다.

Scaling Instruction-Finetuned Language Modelstaeseon ryu

��

The document discusses improving the performance of language models on unseen tasks through instruction finetuning, wherein models are finetuned on a large collection of tasks described as instructions rather than examples. It finds that scaling both the number of finetuning tasks and the size of the model improves performance, and finetuning on chain-of-thought annotations particularly helps the model's reasoning abilities. Instruction finetuning is shown to generalize across models and improve usability while mitigating potential harms.

Visual prompt tuningtaeseon ryu

��

Visual Prompt Tuning (VPT),Parameter-efficient fine-tuning 지금까지 발표한 논문 :https://github.com/Lilcob/-DL_PaperReadingMeeting 발표자료 : /taeseonryu/mplug 안녕하세요 딥러닝 논문읽기 모임 입니다! 오늘 소개 드릴 논문은 'Visual Prompt Tuning for Transformers with Frozen Weights' 입니다. 오늘 소개하는 논문은 대규모 Transformer 모델을 비전에 효율적이고 효과적으로 미세조정하는 대안인 Visual Prompt Tuning (VPT)를 소개하고 있습니다. VPT는 입력 공간에서 작은 양의 훈련 가능한 매개변수를 도입하면서 모델 백본을 고정합니다. 이 방법을 통해, VPT는 다른 매개변수 효율적인 튜닝 프로토콜에 비해 상당한 성능 향상을 달성하며, 많은 경우에는 전체 미세조정을 능가하면서 작업당 저장 비용을 줄인다는 것을 실험적으로 보여줍니다. 이 논문은 효과성과 효율성 면에서 대규모 사전 훈련된 Transformer를 하위 작업에 적용하는 도전을 다룹니다. 이를 통해, 더 효율적인 방식으로 다양한 비전-언어 작업에 대한 성능을 향상시킬 수 있음을 보여줍니다. 오늘 논문 리뷰를 위해 이미지처리 조경진님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다! https://youtu.be/bVOk-hSYyZw

mPLUGtaeseon ryu

��

mPLUG is a new vision-language pre-trained model proposed by the authors that achieves state-of-the-art performance on various vision-language tasks through an asymmetric architecture using novel cross-modal skip connections. The model introduces skip-connected fusion blocks to address information asymmetry and computation inefficiency problems in multi-modal fusion. mPLUG is pre-trained using contrastive learning on image-text pairs and masked language modeling, and shows strong zero-shot transfer ability on tasks like image captioning and image-text retrieval. Evaluation shows mPLUG outperforms prior work on tasks including visual question answering, image captioning, image-text retrieval, visual grounding and visual reasoning.

variBAD, A Very Good Method for Bayes-Adaptive Deep RL via Meta-Learning.pdftaeseon ryu

��

Train중 예상 Return 을 최대화하기 위해 알려지지 않은 환경에서 '탐색'과 '활용' 사이의 균형을 잘 이루는 것이 중요합니다. 이를 이상적으로 수행하는 '베이즈 최적 정책'은 환경 상태뿐만 아니라 에이전트가 환경에 대해 느끼는 불확실성에 따라 행동을 결정합니다. 하지만, 베이즈 최적 정책을 계산하는 것은 작은 작업들에 대해서조차 까다롭습니다. 이 논문에서는, 알려지지 않은 환경에서 근사적으로 추론을 수행하고, 그 불확실성을 행동 선택 과정에 직접 포함시키는 방법, 'variational Bayes-Adaptive Deep RL' (variBAD)를 소개합니다.

Reinforced Genetic Algorithm Learning For Optimizing Computation Graphs.pdftaeseon ryu

��

논문에서는 최적화 컴파일러에서 신경망 연산 그래프의 실행 비용을 최소화하는 깊은 강화 학습 방법을 제시합니다. 이전의 학습 기반 작업들은 최적화될 동일한 그래프에서 최적화기를 훈련하는 것이 필요했지만, 논문은 오프라인에서 최적화기를 훈련하고 이후에는 추가 훈련 없이 이전에 보지 못한 그래프에 일반화하는 학습 접근법을 제안합니다. 이를 통해 논문의 방법은 시간 대신 초 단위로 실제 세계의 텐서플로우(TensorFlow) 그래프에서 고품질의 실행 결정을 생성할 수 있습니다. 논문은 연산 그래프에 대한 두 가지 최적화 작업을 고려합니다: 실행 시간과 최대 메모리 사용량을 최소화하는 것입니다. 광범위한 기준 세트에 비해, 우리의 접근법은 이 두 가지 작업에서 고전적인 방법과 다른 학습 기반 방법에 비해 상당한 개선을 보여줍니다.

The Forward-Forward Algorithmtaeseon ryu

��

이 논문은 신경망 학습에 대한 새로운 방법을 제시하는데, 이 방법의 이름은 'Forward-Forward 알고리즘'입니다. 기존의 딥러닝 방법은 데이터를 앞으로 보내고 결과를 다시 뒤(backward)로 보내는 '앞-뒤' 방식인데, 이 새로운 방법은 '앞-앞' 방식을 사용하니까 'Forward-Forward'라고 부릅니다. 이 알고리즘에서는 '양의 데이터'와 '부정적인 데이터' 두 종류를 사용합니다. '양의 데이터'는 실제로 우리가 가진 정보를 의미하고, '부정적인 데이터'는 신경망이 스스로 생성하는 정보를 말합니다. 이 두 종류의 데이터를 각각 앞으로 보내서, 각 계층이 '양의 데이터'에 대해는 좋은 결과를, '부정적인 데이터'에 대해는 나쁜 결과를 내도록 학습합니다. 핵심은 신경망의 학습 방법에 변화를 주어, 더 효율적이고 간편하게 학습을 진행할 수 있도록 한다는 점입니다. 이 방법을 사용하면 비디오 같은 데이터를 신경망을 통해 처리하면서 복잡한 연산을 중단하거나 데이터를 저장할 필요 없이 진행할 수 있다는 것이 큰 장점입니다.

Towards Robust and Reproducible Active Learning using Neural Networkstaeseon ryu

��

활성 학습(Active Learning, AL)은 대량의 라벨이 없는 데이터를 처리하고, 데이터 라벨링 비용이 지나치게 높은 영역에서 이를 줄이는데 유망한 머신러닝 패러다임입니다. 최근에 제안된 신경망 기반의 활성 학습 방법들은 이 목표를 달성하기 위해 다양한 휴리스틱을 사용합니다. 이 연구에서는 동일한 실험 조건 하에서, 다른 종류의 활성 학습 알고리즘들(불확실성 기반, 다양성 기반, 커미티 기반)이 무작위 샘플링 기준에 비해 일관성 없는 향상을 보이는 것을 보여줍니다. 다양한 실험을 통해, 확률적 요인을 제어하면서, 활성 학습 알고리즘들이 달성하는 성능 지표의 변동성이 이전에 보고된 결과와 일치하지 않는 결과를 가져올 수 있음을 보여줍니다

BRIO: Bringing Order to Abstractive Summarizationtaeseon ryu

��

이 논문에서는 추상적 요약 모델의 훈련 방식에 대해 논의하고 있습니다. 일반적으로 이러한 모델은 최대 가능도 추정을 사용하여 훈련되는데, 이는 이상적인 모델이 모든 확률 질량을 참조 요약에 할당할 것이라고 가정하는 결정론적인 목표 분포를 가정합니다. 이런 가정은 추론 과정에서 성능 저하를 초래할 수 있는데, 모델이 참조 요약에서 벗어난 여러 후보 요약을 비교해야 하기 때문입니다. 이 문제를 해결하기 위해, 저자들은 서로 다른 후보 요약들이 그들의 품질에 따라 확률 질량을 할당받는 비결정론적 분포를 가정하는 새로운 훈련 패러다임을 제안합니다. 이 방법은 CNN/DailyMail (47.78 ROUGE-1) 및 XSum (49.07 ROUGE-1) 데이터셋에서 새로운 최고 성능을 달성했습니다.

ProximalPolicyOptimizationtaeseon ryu

��

논문은 환경과 상호작용을 통해 데이터를 샘플링하고 확률적 경사 상승법을 사용하여 "대리" 목표 함수를 최적화하는 강화 학습을 위한 새로운 정책 경사 방법들을 제안합니다. 표준 정책 경사 방법은 데이터 샘플마다 한 번의 경사 업데이트를 수행하지만, 미니배치 업데이트를 여러 에폭 수행할 수 있는 독창적인 목표 함수를 제안합니다. 이 새로운 방법을 근접 정책 최적화(Proximal Policy Optimization, PPO)라고 부르며, 신뢰 영역 정책 최적화(Trust Region Policy Optimization, TRPO)의 일부 이점이 있지만, 구현이 훨씬 간단하고 일반적이며 샘플 복잡성 면에서도 뛰어납니다(실제로). 실험에서는 PPO를 로봇 보행 시뮬레이션과 아타리 게임 등의 벤치마크 작업에 적용하였으며, 이를 통해 PPO가 다른 온라인 정책 경사 방법보다 우수하며, 전반적으로 샘플 복잡성, 단순성, 실제 소요 시간 면에서 유리한 균형을 이루고 있다는 것을 보여줍니다.

Dream2Control paper reviewtaeseon ryu

��

The document describes the Dreamer model for reinforcement learning. Dreamer learns a world model from images of its experience. It then learns behaviors by imagining future sequences predicted by the world model and backpropagating value gradients through the imagined sequences. Experiments show Dreamer outperforms prior model-free and model-based methods on a variety of visual control tasks, demonstrating it can learn behaviors purely from latent imagination to solve challenging problems.

Online Continual Learning on Class Incremental Blurry Task Configuration with...taeseon ryu

��

이 논문은 Continual Learning이라는 분야에서의 문제를 다루며, 현실 세계에서 새로운 데이터나 클래스가 추가되는 상황에서 전체 데이터셋을 사용하지 않고도, 잊어버리는 현상을 최소화하면서 새로운 작업에 효과적으로 적응하는 것을 목표로 합니다. Continual Learning을 해결하기 위한 일반적인 방법은 세 가지로 분류됩니다: 정규화(Regularization), 파라미터 격리(Parameter Isolation), 그리고 경험 재생(Experience Replay)입니다. 이 발표의 논문은 Experience Replay 방식을 사용합니다. Continual Learning의 일반적인 설정에 대해 설명한 뒤, 본 연구는 실제 환경에서 사용될 수 있는 더 많은 조건을 적용한 문제를 정의합니다. 이 연구에서는 일부 클래스가 겹치지 않는 Disjoint Split과 온라인 스트림에서 지속적으로 새로운 데이터가 들어오는 Blurry Split과 같은 설정을 다룹니다. 이 논문의 목표는 두 가지 주요 문제를 해결하는 것입니다. 첫째, i-Blurry-N-M 작업에서 잘 수행하는 방법을 찾는 것으로, 이는 N 퍼센트의 클래스가 특정 작업에서 겹치지 않게 분리되고, M 레벨의 Blurry 클래스가 모든 작업에서 나타나게 됩니다. 둘째, 연속적인 학습을 사용할 때, 트레이닝이 끝난 후가 아닌 중간에 추론을 진행하는 것이 필요한 상황에 적합한 메트릭을 찾는 것입니다. 오늘 논문 리뷰를 위해 이미지 처리 강인하 님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다!

[2023] Cut and Learn for Unsupervised Object Detection and Instance Segmentationtaeseon ryu

��

CutLER은 라벨 없이 객체 탐지와 분할 모델을 훈련시키는 간단한 방법입니다. 자가 지도 학습 모델의 객체를 찾는 능력을 이용하고, 이를 강화하여 최첨단 위치 지정 모델을 사람의 라벨 없이 훈련시킵니다. CutLER은 먼저 MaskCut 방법을 사용하여 이미지에서 여러 객체의 대략적인 마스크를 생성한 다음, 이러한 마스크에 대해 견고한 손실 함수를 사용하여 탐지기를 학습시킵니다. 모델의 예측 결과로 자가 훈련을 통해 성능을 더욱 향상시킵니다. 이전 연구에 비해 CutLER은 더 간단하며 다양한 탐지 아키텍처와 호환되고 여러 객체를 탐지할 수 있습니다. 또한 CutLER은 무감독 탐지기로서 다양한 도메인의 벤치마크에서 AP50 성능을 2.7배 이상 향상시킵니다. 오늘 논문 리뷰를 위해 자연어처리 조해창님이 자세한 리뷰를 도와주셨습니다 많은 관심 미리 감사드립니다!

Unsupervised Neural Machine Translation for Low-Resource Domainstaeseon ryu

��

비지도 학습 기반의 기계 번역은 균형 잡힌 양 언어 데이터가 없는 경우에도 높은 성능을 보였지만, 데이터가 부족한 영역에서는 여전히 문제가 있습니다. 이 문제를 해결하기 위해, 본 논문에서는 소량의 학습 데이터만을 사용하여 다른 도메인에 적응하는 비지도 신경 기계 번역(UNMT) 모델을 훈련시키는 새로운 메타러닝 알고리즘을 제안합니다. 데이터가 부족한 도메인 처리에 도메인 일반 지식이 중요하다고 가정하며, 높은 자원의 도메인에서 얻은 지식을 활용하는 메타러닝 알고리즘을 확장하여 저자원 UNMT의 성능을 향상시킵니다. 우리의 모델은 전이 학습 기반 접근 방식보다 최대 2-4 BLEU 점수로 뛰어납니다. 광범위한 실험 결과는 제안된 알고리즘이 빠른 적응에 적합하고 다른 기준 모델들보다 지속적으로 우수한 성능을 보여줍니다.

PaLM Scaling Language Modeling with Pathways - 230219 (1).pdftaeseon ryu

��

대규모 언어 모델은 적은 양의 학습 데이터로도 탁월한 성능을 발휘하여 다양한 자연어 처리 작업에서 매우 유용하게 사용됩니다. 이에 대한 이해를 더하기 위해, 구글은 PaLM이라는 5400억 개의 매개변수를 가진 언어 모델을 새로 개발하여, 다양한 자연어 이해 및 생성 작업에서 최첨단의 성능을 보여주고 있습니다. 이 모델은 Pathways라는 새로운 ML 시스템을 이용하여 6144개의 TPU v4 칩을 사용하여 학습되었습니다. PaLM은 다양한 과제에서 뛰어난 성능을 보이며, 특히 멀티스텝 추론 작업에서 최고의 성능을 발휘하여 인간 수준 이상의 결과를 달성하였습니다. 또한 다국어 작업과 소스 코드 생성 작업에서도 강력한 성능을 보이며, 편향성 및 독성에 대한 종합적인 분석과 모델 규모에 따른 학습 데이터 기억력 연구에 대한 결과도 제공합니다. 마지막으로, 대규모 언어 모델에 대한 윤리적 고민과 이를 완화하기 위한 전략에 대해 논의합니다.

Distributional RL via Moment Matchingtaeseon ryu

��

본 논문에서는 분배형 강화학습(Distributional Reinforcement Learning)에서 벨만 다이내믹스를 통해 확률 분포를 학습하는 문제를 고려합니다. 이전 연구들은 각 반환 분포의 유한 개의 통계량을 신경망을 통해 학습하는 방법을 사용해왔으나, 이 방법은 반환 분포의 함수적 형태에 제한을 받아 제한적인 표현력을 가지며, 미리 정의된 통계량을 유지하는 것이 어려웠습니다. 본 논문에서는 이러한 제한을 없애기 위해 최대 평균 거리(Maximum Mean Discrepancy, MMD)라는 가설 검정 기술을 활용해 반환 분포의 결정론적인(의사 난수를 사용한) 표본들을 학습하는 방법을 제안합니다. 이를 통해 반환 분포와 벨만 타겟 간의 모든 모멘트(순간값)를 암묵적으로 일치시킴으로써 분배형 벨만 연산자의 수렴성을 보장하며, 분포 근사에 대한 유한 샘플 분석을 제시합니다. 실험 결과, 본 논문에서 제안한 방법은 분배형 강화학습의 기본 모델보다 우수한 성능을 보이며, Atari 게임에서 분산형 에이전트를 사용하지 않는 경우에도 최고 성적을 기록합니다.

Deep Reinforcement Learning from Human Preferencestaeseon ryu

��

심화 강화학습 시스템이 현실 세계 환경과 유용하게 상호작용하려면 복잡한 목표를 이 시스템에게 전달해야 합니다. 이 연구에서는 여러분이 결정한 경로 세그먼트들 사이의 복잡한 목표를 시스템에게 전달하는 방법을 탐구합니다. 이러한 방식으로 우리는 보상 함수에 대한 액세스 없이 Atari 게임 및 시뮬레이션 로봇 이동 등 복잡한 강화학습 과제를 효과적으로 해결할 수 있음을 보여줍니다. 이는 환경과 상호작용하는 에이전트의 인터랙션 중 1% 미만에 대한 피드백을 제공하면서 인간 감독 비용을 줄이는 것을 의미합니다. 이 방법의 유연성을 증명하기 위해, 논문은 약 1시간 동안 복잡한 새로운 행동을 성공적으로 훈련시킬 수 있었습니다.

InternImage: Exploring Large-Scale Vision Foundation Models with Deformable C...taeseon ryu

��

요즘 대형 비전 트랜스포머(ViT)의 발전에 비해, 합성곱 신경망(CNN)을 기반으로 한 대형 모델은 아직 초기 단계에 머물러 있습니다. 본 연구는 InternImage라는 새로운 대규모 CNN 기반 모델을 제안합니다. 이 모델은 ViT와 같이 매개변수와 학습 데이터를 늘리는 이점을 얻을 수 있습니다. 최근에는 대형 밀집 커널에 초점을 맞춘 CNN과는 달리, InternImage는 변형 가능한 컨볼루션을 핵심 연산자로 사용합니다. 이를 통해 모델은 감지 및 세분화와 같은 하향 작업에 필요한 큰 유효 수용영역을 갖게 되며, 입력 및 작업 정보에 의존하는 적응형 공간 집계도 가능합니다. 이로 인해, InternImage는 기존 CNN의 엄격한 귀납적 편향을 줄이고, ViT와 같은 대규모 매개변수와 대규모 데이터로 더 강력하고 견고한 패턴을 학습할 수 있게 됩니다. 논문에서 제시한 모델의 효과성은 ImageNet, COCO 및 ADE20K와 같은 어려운 벤치마크에서 입증되었습니다. InternImage-H는 COCO test-dev에서 65.4 mAP, ADE20K에서 62.9 mIoU를 달성하여 현재 최고의 CNN 및 ViT를 능가하는 새로운 기록을 세웠습니다

OpineSum Entailment-based self-training for abstractive opinion summarization_변현정.pdf

1. OpineSum: Entailment-based self-training for abstractive opinion summarization Annie Louis, Joshua Maynez, Google Research. 2022

2. Experiments Conclusions Introduction Related Work 01 02 03 04

3. Introduction • OpineSum  Abstractive Opinion summarization : Entailment-base self-training  Textual entailment and capture the consensus of opinions  Train both unsupervised and few-shot learning

4. • Unsupervised neural networks  Auto-encoder : input data Encoder Focus  VAEs(Variation Auto Encoders) : Generate Decoder • Self-training methods • Unlabeled data features, auto labeling, pretraining and fine-tunning • Few-shot learning : k-way n-shot , Similarity learning Related Work

5. • Defining review consensus  find out how often the collection supports the proposition, • Extracting propositions  split review sentences into propositions and use our key units • Scoring consensus  , , proposition • Silver summaries  MMR(Maximal Marginal Relevance) Textual entailment to identify consensus

6. Consensus opinion • Consensus or common opinion  the SPACE corpus ( on TripAdvisor.com) “location is right across balboa park” : summary-worthy one * create our silver-standard data

7. Consensus opinion • Consensus or common opinion  Same claim may be expressed “This hotel is in the heart of Times Square ” , ‘Hotel’s location is slap bang in the middle of Times Square.’ “The fishis tasty” and ‘The salmon is delicious’

8. Consensus opinion • Extracting propositions  Long review sentences : contain a bunch of different claims -> split sentences into propositions : as a ‘single claim or fact’ (* conjunctions, period, and comma subject to a length of four)

9. Consensus opinion • Scoring consensus  the M propositions • textual entailment rela on as P → H (P is a premise and H is a hypothesis) BERT-large : [CLS] Token (a linear layer to predict three classes: entailment, contradiction and neutral)  Apache Beam1 pipeline review proposition

10. Consensus opinion • Silver summaries • decreasing order of their scores S(mi) • take the top n as the silver summary sentences • edundancy removal technique : MMR (maximal marginal relevance) Highest scoring proposition

11. Consensus opinion • Silver summaries • P1 was extracted from R2 • P2 from R4

13. • Dataset  Unlabelled review corpus  Evaluation dataset containing with human summaries  SPACE-unlabeled : 1.1 million reviews for 11,000 hotels  SPACE-eval : human generated summaries for a smaller set of 50 hotels • Models  T5 (Text-to-Text Transfer Transformer)  Pre-trained encoder-decoder models based on T5’s framework  LongT5 : polynomial scale relationship to input length Experiments

14. • Evaluation  Silver Data (as SPACE-OpineSum) : the unlabelled review corpus • SPACE items with a minimum of 50 reviews (4,729 items) • Computed 1.3B entailment predictions  Self-training • Unsupervised and few-shot learning abstractive summarization • Trained LongT5-Large (770M parameters) and LongT5-(Large, XL) • Compare these systems with prior unsupervised work in the SPACE-eval dataset • the ROUGE performance on the validation set Experiments

15. • Evaluation  Few-shot Learning • SPACE-eval (25 total) : training set (15items) and validation set(10 items) • Reduced learning rate, 1/5th of the standard 1e−4 Experiments

16. Results OPINESUM system use self-training only

17. Results

18. Conclusion  simple self-training approach both unsupervised and few-shot  using the entailment weights (scores) of each proposition  self-training models could serve as checkpoints

�ݺ�ߣ

OpineSum Entailment-based self-training for abstractive opinion summarization_변현정.pdf

Recommended

More Related Content

More from taeseon ryu (20)

OpineSum Entailment-based self-training for abstractive opinion summarization_변현정.pdf