프로그래밍

파이썬 데이타 전처리 효율적으로 짜는걸 연습하고 싶은데 뭘 해야할까

일단 예비 대학원생임돠

 

회사생활도 잠깐이나마 해보면서 주로 파이썬으로 데이터 전처리, 딥러닝 모델 학습, 도커로 모델이랑 환경 배포등을 해본 경험은 있음

 

코드라는게 어거지로 짜도 돌아는가잖아?

 근데 이제 코드를 더 빠르고, 메모리 적게 사용하는등 효율적으로 짜는 걸 해보고 싶음, 특히 데이터 전처리쪽에서

 

Pandas에서 용량 큰 csv파일을 효율적으로 전처리 한다던가...

큰 이미지 데이터셋에서 여러개의 이미지들을 빠르게 전처리 한다던가...

 

이런쪽 공부는 어떻게 해야할까???

코딩테스트 연습문제들에서도 이런 내용을 다룸???

 

2개의 댓글

2021.01.16

데이터가 이미지같은 행렬 구조면 파이썬에선 numpy를 쓰는게 좋고 그 이상으로 빠르게 처리하고싶으면 CUDA 써서 병렬로 처리해야겠지

메모리 적게 먹는건 너가 임베디드쪽 하는거 아니면 그냥 신경 안쓰는게 좋음. 병렬처리하면서 공간복잡도까지 고려하면 머리터짐

 

근데 CUDA 병렬프로그래밍 잘못하면 더 느려저서 쉽게 못하겠더라

0
2021.01.17

적당한 부분에서 numpy나 pandas 처럼 라이브러리 가져다 쓰는게 좋아 파이썬 자체가 고도 추상화 되어 있어서 속도가 느릴뿐더러

 

저런 알고리즘은 이미 일반 개발자 수준에서 성능향상을 논할정도 레벨을 아득히 넘어 버림

0
무분별한 사용은 차단될 수 있습니다.
번호 제목 글쓴이 추천 수 날짜 조회 수
5677 [프로그래밍] Exiftool 이거 일본어 못 읽는데 13 부터시작하는이세... 0 1 일 전 171
5676 [프로그래밍] 반응형 웹페이지가 내가상상한거랑 좀 다르네 3 평택국 0 2 일 전 346
5675 [프로그래밍] 고졸 FE개발자 연봉, 상황에 조언좀.. 17 쾅꿍꿍 0 2 일 전 460
5674 [프로그래밍] 물경력들 보면 책임을 이해못하는것같음 5 mils 1 3 일 전 288
5673 [프로그래밍] GPT가 코딩 다해주네 3 겜신병자 0 4 일 전 626
5672 [프로그래밍] 크로스플랫폼의 욕심은 끝이없다 4 ye 0 6 일 전 343
5671 [프로그래밍] 월루중에 백준 풀어보고 있는데, 6 오뜨 0 7 일 전 617
5670 [프로그래밍] 같이 일했던 시니어급 개발자 아예 직무 바꿨네.. 15 흐린눈 2 8 일 전 617
5669 [프로그래밍] 안드로이드 스튜디오가 이상해요... 2 집에가게해줘 0 10 일 전 375
5668 [프로그래밍] 양심고백 5 너가전부옳아 0 10 일 전 357
5667 [프로그래밍] 멀티겜만드는거 첨인데 빡시네 4 아님나 0 11 일 전 405
5666 [프로그래밍] vscode에 이런 설정도 있나? 17 너가전부옳아 0 11 일 전 267
5665 [프로그래밍] 네트워크 관련 관련 질문드립니다 6 그러네요 0 13 일 전 197
5664 [프로그래밍] 언리얼 C++이라고 불리는 이유? 4 nyvux 0 13 일 전 318
5663 [프로그래밍] 코틀린과 swing 기능 관련 다시 질문 4 집에가게해줘 0 14 일 전 150
5662 [프로그래밍] 22대 총선 정보를 모아 볼 수 있는 사이트 2 마포구알짜땅주인 0 15 일 전 302
5661 [프로그래밍] 집에서 공부하는 개붕이 있냐 8 년차html개발자 0 16 일 전 471
5660 [프로그래밍] Mojo 써본사람 있음? 5 너가전부옳아 1 16 일 전 339
5659 [프로그래밍] 코린이 swing 질문좀... 1 집에가게해줘 0 17 일 전 149
5658 [프로그래밍] 파이썬 pillow-avif-plugin 라이브러리 gif->avif 변환 관... 3 부터시작하는이세... 0 17 일 전 122