배우고 느끼고 생각하고 사랑하라

그리고 즐겨라

분류 전체보기 48

[pip install] sudo 권한 없이 pip 설치하기

여러 명이 함께 사용하는 서버에 pip가 설치되어 있지 않은 경우가 있다. 이 때, pip와 같은 패키지 관리자는 서버 내의 다른 패키지와 충돌하거나 임의로 조정할 가능성이 높기 때문에 관리자 권한을 요구하는 경우가 있다. 이 때, 권한을 받을 수 없는 상황에 개인 계정 내 경로에 pip를 임의로 설치한다면 해당 로컬 내에서 pip를 자유롭게 사용 가능하다. 설치 스크립트 다운로드curl https://bootstrap.pypa.io/get-pip.py -o get-pip.py 로컬에 pip 설치python3 get-pip.py --user  경로 설정 설치된 경로를 시스템의 PATH에 추가export PATH=$PATH:~/.local/bin 설정 적용source ~/.bashrc

CUDA & PyTorch 호환 문제

새로운 서버에 연결하여 코드를 실행하다보니 아래와 같은 문구를 만나게 되었다. CUDA capability sm_86 is not compatible with the current PyTorch installation 이는 현재 CUDA 버전과 pytorch 버전이 맞지 않는다는 것을 뜻한다. 해결법 1. 우선 내 CUDA 버전을 확인해본다. nvidia-smi 다음과 같이 우측 상단에 내 현재 CUDA 버전이 11.8임을 확인할 수 있다. 2. 파이토치 사이트에서 해당 CUDA 버전과 호환되는 버전을 알려준다. https://pytorch.org/get-started/locally/ Start Locally Start Locally pytorch.org 아래 스크립트를 실행하면 완료!

[논문 리뷰] Mass-Editing Memory In a Transformer

이 글은 체계적인 정리보다는 메모에 가깝습니다. 해당 논문에 대해 이야기 나누고 싶으시다면 언제든지 환영합니다. Mass-Editing Memory In a Transformer Meng et al., 2022 https://arxiv.org/abs/2210.07229 Mass-Editing Memory in a Transformer Recent work has shown exciting promise in updating large language models with new memories, so as to replace obsolete information or add specialized knowledge. However, this line of work is predominantly limite..

[논문 리뷰] Transformer-Patcher: One Mistake Worth One Neuron

이 글은 체계적인 정리보다는 메모에 가깝습니다. 해당 논문에 대해 이야기 나누고 싶으시다면 언제든지 환영합니다. Transformer-Patcher: One Mistake Worth One Neuron Zeyu Huang et al., 2023 https://openreview.net/forum?id=4oYUGeGBPm Transformer-Patcher: One Mistake Worth One Neuron A Sequential Model Editor to correct model's output on the specific input. openreview.net 요약 T-Patcher는 Sequential Model Editing (SME) task를 다루기 위한 모델이다. T-Patcher는 Tra..

[논문 리뷰] Can We Edit Factual Knowledge by In-Context Learning?

이 글은 체계적인 정리보다는 메모에 가깝습니다. 해당 논문에 대해 이야기 나누고 싶으시다면 언제든지 환영합니다. Can We Edit Factual Knowledge by In-Context Learning? Ce Zheng et al., 2023 http://doi.org/10.18653/v1/2023.emnlp-main.296 Can We Edit Factual Knowledge by In-Context Learning? Ce Zheng, Lei Li, Qingxiu Dong, Yuxuan Fan, Zhiyong Wu, Jingjing Xu, Baobao Chang. Proceedings of the 2023 Conference on Empirical Methods in Natural Language..

[논문 리뷰] Fast Model Editing at Scale

이 글은 체계적인 정리보다는 메모에 가깝습니다. 해당 논문에 대해 이야기 나누고 싶으시다면 언제든지 환영합니다. Fast Model Editing at Scale Eric Mitchell et al., 2023 https://openreview.net/forum?id=0DcZxeWfOPt Fast Model Editing at Scale While large pre-trained models have enabled impressive results on a variety of downstream tasks, the largest existing models still make errors, and even accurate predictions may become outdated... openreview...

[Python] list 형태의 string type을 list로 바꾸는 법

위와 같은 형태의 코드는 바로 tolist()로 적용햘 경우 string type으로 배출되는 문제가 발생한다. df['column_name'].tolist() #output "[a,b,c]" ast 라이브러리를 이용하면 list 형태의 문자열을 바로 list로 바꿀 수 있다 import pandas as pd import ast # 가정: df는 당신의 데이터프레임, 'column_name'은 리스트 형태의 문자열 데이터를 가진 열 이름 df['column_name'] = df['column_name'].apply(ast.literal_eval) #output [a,b,c]

ODQA(Open-Domain Question Answering)

"대한민국 GDP는 세계 몇위야?" MRC 우리가 원하는 질문에 대답하기 위해 문서를 읽고 내용을 이해해 정답을 내는 기술을 MRC(Machine Reading Comprehension)이라고 한다. MRC는 컴퓨터가 텍스트를 '이해'하고 그 내용에 대해 질문에 대답하는 능력을 갖추는 것을 목표로 하는 NLP 분야의 중요 주제 중 하나이며, QA(Question Answering) 분야로 들어오면 Closed-Domain Question Answering. 즉, 주어진 지문 안에서 답을 찾는 과정이다. 그러나 우리가 검색할 때 지문을 가지고 그 속에서 대답을 찾는 경우는 흔치 않다. ODQA ODQA(Open-Domain Question Answering)은 이렇게 다양한 종류의 질문에 대..

정리/NLP 2023.06.12

[Python] 자리수 맞게 0 채우기

문자열의 자릿수를 고려하여 특정 길이로 만들어야 하는 경우, str.zfill() 메서드를 사용할 수도 있다. 이 메서드는 지정된 길이로 문자열을 채우고, 필요한 경우 앞에 0을 추가한다. 예를 들어, 문자열 '123'을 길이 5로 만들어 앞에 0을 추가하려면 다음과 같이 사용할 수 있다. string = '123' new_string = string.zfill(5) print(new_string) # 출력: 00123

[Python] Couldn't find ffmpeg or avconv 에러

TTS 프로젝트를 진행하던 중 음성 데이터를 자르기 위해 pydub 라이브러리를 설치 중 제목과 같은 오류를 발견했다. 오류 원인 : 현재 환경에서 ffmpeg 파일을 찾을 수 없다. 1. ffmpeg 파일이 없다. 2. ffmpeg 파일의 경로 설정이 잘못 되어있다. ffmpeg 파일을 설치한 적이 없으므로 해당 파일을 다운로드 한다. https://ffmpeg.org/download.html#build-windows 모두 설치할 경우 아래와 같이 ffmpeg.exe 파일이 생성된다. 시작 > 시스템 환경변수 검색 > 환경 변수 > 시스템 변수로 들어간다 시스템 변수의 Path > 편집을 누르고 해당 ffmpeg.exe 파일이 존재하는 경로를 입력한다 cmd 창에서 ffmpeg.exe -version을..