분류 전체보기 1188

[Linux] history - 명령어 이력 확인

history history 명령은 실행한 명령어 이력을 확인할 수 있는 명령어다. 이 글에서는 history 명령어 동작 방식과 history에서 명령어를 검색하는 방법을 정리한다. 사용 방법 기본적으로 history 명령어를 이용해 실행한 명령어 이력을 확인한다. n번째 명령을 실행시키고 싶다면 !n으로 실행한다. history # -c : RAM에 저장된 history 목록 삭제 # -d offset : offset 위치에 있는 history 명령어 삭제 # -a : history list를 HISTFILE에 추가 # -n : HISTFILE에서 읽어들여지지 않은 행을 읽고 history 목록에 추가 # -r : HISTFILE을 읽고 history 목록에 추가 # -w : 형재 history를 지..

Linux 2023.05.13

[k8s/helm] JupyterHub kubespawner 사용자 별 volume 설정

개요 최근 kubernetes 버전을 1.21에서 1.24로 업그레이드를 진행하게 되면서 쿠버네티스 환경에서 동작하고 있던 helm chart의 업그레이드가 필요해졌다. 관련해서 업그레이드가 필요한 helm chart 중 하나가 JupyterHub였는데, 작업 중 singleuser notebook server 스폰 시 volume 설정 방법을 변경하게 되어 적어둔다. 우선 jupyterhub는 다음과 같은 방식으로 사용 중이다. - kubernetes 환경에서 동작한다. - singleuser server를 spawn 하여 사용한다. - spawn 할 수 있는 여러 profile을 지원한다. - singleuser server는 사용자 별 홈 디렉터리와 nas mount가 필요하다. 기존 설정 기존 환..

Kubernetes/삽질 2023.05.12

[Python] Pandas - 여러 컬럼 추가

개요 DataFrame에 스칼라 값인 컬럼이 여럿 추가하고 싶을 때는 단순 할당을 반복하거나, import numpy as np import pandas as pd map_code_message = [ {'code':'00','return_message':'Continue'}, {'code':'01','return_message':'Switching Protocol'}, {'code':'02','return_message':'Processing'}, {'code':'03','return_message':'Early Hints'}, ] df = pd.DataFrame(map_code_message) df['server'] = 'web' df['stage_env'] = 'dev' insert 함수를 반복해서..

[Linux] stat - 파일/디렉터리 상태 확인

stat 파일이나 디렉터리의 상태 정보를 확인할 수 있는 명령어다. 디렉터리 내 파일에 대한 요약 정보를 위주로 출력하는 ls 명령어보다 상세한 정보를 확인할 수 있다. 사용 방법 명령어 뒤에 정보를 확인할 파일을 지정한다. 확인할 파일은 여러 개를 공백으로 나열하거나 *으로 지정할 수도 있다. 옵션 없이 사용하면 파일명, 크기, 접근 권한 등의 정보를 확인할 수 있다. stat 출력 정보 Inode : inode 번호 Links : 링크된 파일 수 Uid, Gid : 소유자 및 그룹의 이름과 id Access : 출력이 8진수 숫자/또는 문자열 형식인 경우 권한 정보 Access : 출력이 시각 형식인 경우 접근 시각(atime) 정보 Modify : 수정 시각(mtime) 정보 Change : 변경 ..

Linux 2023.05.10

[Git] cherry-pick - fatal: bad revision

현상 2023.05.08 - [Git] cherry-pick - 특정 커밋 반영에서 살펴본 방법으로 다른 브랜치에 적용된 commit을 가져오려고 했더니 아래와 같은 에러가 발생했다. 해결 방법을 확인해 본다. 원인 로컬 레포지터리에서 가져올 커밋을 찾지 못하는 것이 원인이다. 지정한 commit hash 값에 오타가 있거나 레포지터리가 최신화되지 않았을 때 발생할 수 있다. 내 경우에는 후자가 원인이었다. 해결 방법 git pull을 할 때도 fetch를 먼저 하는 것과 동일하게, cherry-pick을 할 때도 fetch를 수행하면 된다. git fetch git cherry-pick 참고 문서 https://zetal.tistory.com/entry/git-cherry-pick-fatal-bad-r..

Git | GitLab 2023.05.09

[Git] cherry-pick - 특정 커밋 반영

개요 Git을 이용해 코드를 관리하다 보면 다른 브랜치에 적용된 커밋을 가져와 적용해야 하는 경우가 발생한다. 그런 경우 git rebase 또는 cherry-pick을 많이 사용하는데, 이 글에서는 cherry-pick에 대해 정리한다. rebase : 2022.11.20 - [Git] rebase - 브랜치 base 재지정 cherry-pick cherry pick이란 체리 한 바구니에 좋은 체리만 고르는 것에서 유래한 단어로, 좋은 것을 선별한다는 뜻으로 쓰인다. git에서 cherry-pick 명령은 다른 branch에서 발생한 여러 commit 중, 특정 commit에서 발생한 수정 사항을 브랜치에 반영할 수 있도록 한다. cherry-pick 명령어 뒤에 반영할 commit hash만 지정해 ..

Git | GitLab 2023.05.08

[Airflow] retries 설정 무시하고 task 실패 처리

개요 Airflow dag 또는 task 정의 시 retries를 0 이상으로 설정하면 task 실행 중 실패가 발생해도 재실행을 시도한다. 하지만 재시도가 의미 없는 경우가 있을 수 있는데, 이럴 때는 retries 횟수가 남아있더라도 실패로 처리하고 싶다. Airflow Exception을 이용해 처리해 보자. 관련글 : 2023.05.06 - [Airflow] Exception을 이용한 task 스킵 처리 AirflowFailException 재시도 없이 task를 실패해야 할 때 사용하는 예외이다. 아래와 같이 import 하여 사용한다. from airflow.exceptions import AirflowFailException 예시 예시로 사용할 함수는 0부터 2까지의 수 중에서 무작위로 선택..

Apache Airflow 2023.05.07

[Airflow] Exception을 이용한 task 스킵 처리

개요그동안 Airflow에서 건너뛰어야 하는 Task가 있으면 Task가 실행하기 전에 skip 필요 여부 등을 확인했다.참고 : 2023.01.03 - [Airflow] ShortCircuitOperator - 조건부 Task 실행 이 글에서는 Airflow Exception을 이용해 실행 중인 task를 skip할 수 있도록 구성해 본다.  AirflowSkipException작업을 건너뛰어야 할 때 사용하는 예외이다. 아래와 같이 import 하여 사용한다.from airflow.exceptions import AirflowSkipException   예시예시로 사용할 함수는 0부터 2까지의 수 중에서 무작위로 선택한 값이 1일 때 task를 건너뛴다. 만약 조건을 충족하지 않으면 task를 정상적..

Apache Airflow 2023.05.06

[Git] commit 상세 정보 확인

개요 git을 사용하면서 commit에 대한 정보를 간략하게 확인할 때는 git log 명령을 사용한다. git log 다만 해당 커밋에서 어느 파일을 수정했고, 수정된 부분은 어디인지 등의 정보는 나오지 않는데 이를 확인할 방법을 정리한다. git log 명령 1. --name-only --name-only 옵션을 사용하면 각 commit에서 어느 파일을 수정했는지 확인할 수 있다. git log --name-only 2. -p, --patch -p 옵션을 사용하면 각 commit에서 발생한 diff를 보여준다. git log -p git show commit을 지정해 git show 명령어를 사용하면 해당 commit의 로그 메시지와 텍스트 diff를 확인할 수 있다. git show # 예시 git..

Git | GitLab 2023.05.05

[Ubuntu 20.04] 절전 모드 비활성화

개요 최근 서버 재부팅 후 다시 서버 접속이 안 되는 현상이 발생해 syslog를 확인해 보니 다음과 같은 메시지를 확인할 수 있었다. Apr 17 01:53:31 master NetworkManager[1601]: [1681696411.3722] manager: sleep: sleep requested (sleeping: no enabled: yes) Apr 17 01:53:31 master NetworkManager[1601]: [1681696411.3724] manager: NetworkManager state is now ASLEEP Apr 17 01:53:31 master systemd[1]: Reached target Sleep. Apr 17 01:53:31 master systemd[1]: ..

Linux 2023.05.04