프로그래밍

파이썬 데이타 전처리 효율적으로 짜는걸 연습하고 싶은데 뭘 해야할까

일단 예비 대학원생임돠

 

회사생활도 잠깐이나마 해보면서 주로 파이썬으로 데이터 전처리, 딥러닝 모델 학습, 도커로 모델이랑 환경 배포등을 해본 경험은 있음

 

코드라는게 어거지로 짜도 돌아는가잖아?

 근데 이제 코드를 더 빠르고, 메모리 적게 사용하는등 효율적으로 짜는 걸 해보고 싶음, 특히 데이터 전처리쪽에서

 

Pandas에서 용량 큰 csv파일을 효율적으로 전처리 한다던가...

큰 이미지 데이터셋에서 여러개의 이미지들을 빠르게 전처리 한다던가...

 

이런쪽 공부는 어떻게 해야할까???

코딩테스트 연습문제들에서도 이런 내용을 다룸???

 

2개의 댓글

2021.01.16

데이터가 이미지같은 행렬 구조면 파이썬에선 numpy를 쓰는게 좋고 그 이상으로 빠르게 처리하고싶으면 CUDA 써서 병렬로 처리해야겠지

메모리 적게 먹는건 너가 임베디드쪽 하는거 아니면 그냥 신경 안쓰는게 좋음. 병렬처리하면서 공간복잡도까지 고려하면 머리터짐

 

근데 CUDA 병렬프로그래밍 잘못하면 더 느려저서 쉽게 못하겠더라

0
2021.01.17

적당한 부분에서 numpy나 pandas 처럼 라이브러리 가져다 쓰는게 좋아 파이썬 자체가 고도 추상화 되어 있어서 속도가 느릴뿐더러

 

저런 알고리즘은 이미 일반 개발자 수준에서 성능향상을 논할정도 레벨을 아득히 넘어 버림

0
무분별한 사용은 차단될 수 있습니다.
번호 제목 글쓴이 추천 수 날짜 조회 수
180583 [컴퓨터] i9 13900k 쓰고있는데 질문! 래더넉 0 16 분 전 4
180582 [컴퓨터] 키보드 -> 방향키가 눌릴때 삐걱거림 뮤잉운동케겔운동... 0 2 시간 전 9
180581 [모바일] 기기변경할때 유심을 같은거쓰면 정보 그대로 보존됨? 1 마법부오러사무국장 0 2 시간 전 28
180580 [잡담] 결국 레이니 75 구매함 3 이제는끝내자 0 3 시간 전 86
180579 [컴퓨터] 이륙 허가를 요청한다! 14 와플맛 0 4 시간 전 61
180578 [컴퓨터] 찐따 컴하하 컴퓨터 구매 완료 2 69746974 0 4 시간 전 77
180577 [모바일] a34주문했는데 품절이네 ㅅㅂ 울그락푸르락 0 6 시간 전 107
180576 [컴퓨터] 보통 모니터 스펙이 높을수록 발열이 심해짐? 6 오늘하루도빚갚으리오 0 7 시간 전 113
180575 [컴퓨터] 스마트폰용 SD카드 샀는데 이거 잘 인식 되려나? 4 마두라지 0 7 시간 전 85
180574 [모바일] 갤탭s10 존버중이였는데 그냥 s9 살까 4 한림예고 0 8 시간 전 122
180573 [모바일] 오 플립4 one ui 6.1 업뎃 나왔다 대나무표효자손 0 8 시간 전 102
180572 [모바일] 네이버2차인증알람이 안옴.... 4 까까사주세요 0 11 시간 전 96
180571 [견적] 안녕하세요 선생님들 이 스펙에 4070s 괜찮을까요 12 시비걸면눈물흘림 0 11 시간 전 134
180570 [잡담] 당근에 플스프로4 올려놨더니 구매한다면서 누가 펌웨어 버전... 3 연골어류 0 11 시간 전 181
180569 [프로그래밍] 반도체 장비 업계인 있음? 4 캡틴띠모 0 11 시간 전 145
180568 [컴퓨터] 램 3600짜리 샀는데 제대로 인식을 안한다(해결됨) 10 오이혐오자 0 12 시간 전 114
180567 [잡담] 조공 유)맥북 어플 추천좀 9 년차html개발자 0 12 시간 전 92
180566 [모바일] 쉬이이이벌... 걍 a34 지름 울그락푸르락 0 12 시간 전 78
180565 [모바일] 갤24 울트라 가장 괜찮게 사는방법이뭐에여? 4 마법부오러사무국장 0 13 시간 전 173
180564 [정보] 갤럭시핏3 오늘부터 다시 구매 가능하네 4 건방진뤼팽 0 14 시간 전 198