전체 보기539 부스패치 #2. 크롤링 OOP 구조 변경, Asyncio 적용 이전 포스팅에서 역할에 맞는 클래스를 설계했습니다. [사이드 프로젝트] 크롤링 마이그레이션, Pandas CSV 용량 줄이기 - Parquet 으로 1/10 용량으로 압축하최근에 사이드프로젝트 백엔드를 작업하다, 데이터 작업도 같이 맡게 되었습니다. 기존엔 프론트엔드 개발자인 형 혼자서 담당했는데, 개발 리소스를 분산하고자 배우고 있네요. ☺️ 데이터를itchipmunk.tistory.com그 중 아래 클래스를 만들었는데요~✅ Loader : 일감 가져오기✅ Scheduler : 일감 분배하기✅ Scrapper : 분배된 일감으로 수집하기❌ Storage : 데이터 저장하기❌ Uploader: 외부 스토리지로 업로드하기어젯밤 만들지 못한 Storage, Uploader 클래스를 만들어봤습니다.뿐만 아니라.. 프로젝트/장기 프로젝트 2024. 3. 28. [Java] MVC 패턴의 오해와 고찰 | feat. Smalltalk-80, Dolphin Smalltalk MVP 모두가 다르게 말하는 디자인 패턴이 있다?벌써 5개월 전이다.온라인으로 자바 과제를 하는 코스에 참가해, 많은 학생과 코드 리뷰를 활발히 했었다.자바 과제는 입력 / 비즈니스 요구사항 처리 / 출력의 형식에서 벗어나지 않았다. 코드 리뷰가 활발하다 보니 몇몇 기술 유행이 불처럼 번졌다.그 중 하나가 바로 MVC(Model-View-Controller) 디자인 패턴이었다.많은 학생이 MVC 패턴을 채택한 이유가 뭘까.직관적이고 객체 지향적으로 분리되고 과제 구현에 최적화됐기 때문이라 생각한다. MVC 패턴을 코드 리뷰할 때, 신기한 점을 발견했다.학생마다 MVC 패턴을 다르게 알고 있는 게 아닌가?심지어 내가 이해한 MVC 패턴과도 달랐다. 왜 이런 일이 발생한걸까?(5개월 전 커뮤니티에서 논의한 걸 정리.. 자바/자바 강의 2024. 3. 25. 24.02월 결산 24년 2월도 끝났다. 길었던 캠프도 끝났다. 시작이 있으면 끝이 있는 법, 끝이 있으면 시작도 있는 법. 2월을 다시 돌아보고, 새로운 3월을 맞이하자. 지난 3/1 금요일에 휴일을 맞았다. 집에 있는 걸 좋아하지만. 구름 한 점 없는 푸른 날에 집이면, 갑자기 우울해질 때가 있다. 작년부터 동네 이웃인 친한 형도 오늘은 혼자랜다. 자기도 집에 있기 갑갑해서 운전 연습도 할겸, 사이드 프로젝트나 하고 밥이나 먹자고, 오후 3시에 시내 공원으로 모였다. 거리에 사람이 왜 없는가 했더니, 칼바람이 불더라. 😅 칼바람조차 있는 힘껏 품었다. 기분이 한결 나아지더라. 사이드 프로젝트도 이야기하면서 하다가, 12월부터 한 개발 캠프 이야기도 나왔다. 며칠 전 회식에도 캠프 에피소드를 잠깐 나누긴 했지만, 흘러가.. 자유/잡담 2024. 3. 4. 부스패치 #1. 크롤링 마이그레이션, Pandas CSV 용량 줄이기 - Parquet 으로 1/10 용량으로 압축하기 최근에 사이드프로젝트 백엔드를 작업하다, 데이터 작업도 같이 맡게 되었습니다.기존엔 프론트엔드 개발자인 형 혼자서 담당했는데, 개발 리소스를 분산하고자 배우고 있네요. ☺️데이터를 크롤링하고 CSV 파일로 만들고 AWS S3에 업로드하는, 기존 크롤링 코드의 언어 마이그레이션 작업을 맡았습니다. 기존엔 JavaScript async-await 코드로 크롤링이 이뤄졌는데요.매일 수집되는 CSV 용량이 100MB 가 훌쩍 넘어가다보니 비용 문제가 발생했습니다.이를 해결하기 위해 Parquet 으로 압축하려는 시도를 했으나자바스크립트의 parquetjs 패키지가 현재 환경에서 동작되지 않는 이슈가 있었습니다.4년전이 마지막 업데이트다보니 호환이 되지 않는 것 같더라고요. 데이터 전처리 코드도 Python 의 .. 프로젝트/장기 프로젝트 2024. 3. 3. #1115. 나의신방 - Chaser : 한마음 폐공장, 신촌 방탈출 후기 형사가 찾아왔다. 그들은 내게 '한마음 폐공장'과 관련된 미제 사건을 수사할 수 있도록 특채하고 싶다고 하셨다. 내게 특이한 능력이 있다는 것을 알고 온 눈치였다. 바로 오래된 물건에 담긴 '기억'을 들을 수 있다는 것. 오늘 밤, 내가 이 사건을 쫓으려 한다. ※ 공포도 ★★★ ※ 본 테마는 플레이어 3인 이상 이용을 권장하며, 혼방이 불가능합니다. 안녕하세요, 다람쥐입니다! 혜성같이 등장한, 신촌 '나의 신방' 매장의 'Chaser : 한마음 폐공장' ! 먼저 한 지인 모두 재밌다고 추천하더라고요!!! 와.. 얼마나 재밌길래!!?? 했지만 현생이 바빠서... 갈 엄두를 못 냈는데요. 😭 그러던 중 설날에 방메(방탈출 메이트)가 한마음 폐공장 가자는 말을 꺼냅니다! 고민 1도 안하고 바로 콜했습니다. .. 자유/방탈출 후기 2024. 3. 2. #1114. 비트포비아 던전스텔라 - 데스티니 앤드 타로 🌸꽃길🌸 추천 항상 실패만 겪었던 불운의 아이콘 시리. 시리는 하는 일 마다 잘 되지 않는 운명을 점치기 위해 타로 집에 예약하고 방문하게 됩니다. 안녕하세요! 정말 오랜 만에 방탈출 리뷰하네요. 현생 때문에 방탈출을 쉬고 있어서 잠깐 잠깐씩 신테마만 먹고 있네요. 😄 비트포비아가 강남에 새로운 매장을 냈다길래 놀랐습니다! 아니... 강남에 또 낼 데가 있다고~? 비트포비아 던전스텔라점 위치가 강남에서 살짝 멀긴 합니다! 강남역이랑 역삼역 사이더라고요. 비트포비아 강남 던전까지 가고 나서도..! 큰 길을 하나 더 건너야 합니다... 매장에 도착하면 이렇게 영롱한 현수막이 반겨주게 됩니다. 지하로 내려가는 통로를 지나면 비트포비아 던전스텔라 매장에 도착합니다! 인테리어 자체는 홍대 던전과 던전 루나와 비슷한 색감과 배치.. 자유/방탈출 후기 2024. 2. 7. 24.1월 마지막 주 결산 벌써 24년 1월이 지나가고, 2월이 찾아왔다. 2월이 오고도 벌써 5일이 된 것도 놀랍기도 하고. 시간은 왜 이렇게 빠른 걸까? 피부과 시술 끝 1년 전 부터 수염 제모 시술을 받았다. 4월달부터 5개월, 10월달부터 5개월 계속 하고 싶다, 하고 싶다, 친한 형이랑 얘기만 하다가 막상 친한 형만 하고, 나는 직장 다니면서 해 볼 엄두가 안났었다. 사람들 이야기 들어보면 겁나 아플 것 같기도 하고?? 재작년 말에 퇴사하고, 작년에는 피부과에 투자를 했다. 대단한 건 아니고, 수염 제모랑 여드름 자국정도??? 지난 20년 코로나 때, 마스크 쓰면서 부터 볼 쪽에 트러블이 엄청 생겼다. 평생 볼 쪽에 뭐가 나본 적이 없었는데... 여드름도 이마나 코에나 좀 났지. 🥲🥲 당시엔 금방 낫겠지~ 싶어서 방치했다.. 자유/잡담 2024. 2. 5. Swagger OpenAPI 3.0 에서 allOf 으로 확장해서 공통 응답 적용하기 Node.js + Express + TypeScript 로 이뤄진 프로젝트에서 OpenAPI 3.0 버전의 Swagger 패키지를 쓰고 있다. Swagger OpenAPI 3.0 은 다음 용도로 사용하고 있다. 클라이언트 OpenAPI Generator 을 통한 Type 코드 생성 ( 문서를 기준으로 Typescript 타입 객체가 생긴다..! ) 클라이언트를 위한 API 문서 용도 서버 테스트용(Postman 대체) 개발적으로 1번을 위한 목적이 제일 크다. OpenAPI 문서 파일을 공유하면 프론트엔드에 타입 파일을 만들어준다. 서버 문서를 보고 클라이언트에서 대응 가능한 타입을 일일이 만들어야 한다는 건... 여간 고통스러운 일이 아니다. 특히 타입스크립트는 컴파일을 위해 억지로라도(?) 타입을 만.. 프로젝트/장기 프로젝트 2024. 2. 4. 소설은 소설일 뿐 종종 사람을 만나다 보면 소설 읽는 걸 좋아하는 사람들이 있다. 일반인이 잠깐 취미가 생겨 책을 읽는 수준이 아니라, 와.. 할 정도로 아득하게 많이 읽는다. 그 정도는 시중에 판매되는 종이 소설들은 물론, 웹소설까지 섭렵하는 매니아 수준이다. 내 친구는 외장 하드에 소설로만 꽉 채워 있더라... 진심 충격 받았다. ㅋㅋㅋ. 그 와중에 이상한 제목이 있어서 다른 친구와 같이 놀리곤 했다. ??? : 이상한 내용 아니라고~ 나도 1년 내내 소설만 보진 않지만, 소설을 좋아하긴 한다. 중학교 때는 한 달에 한 번 의무적으로 책 독후감을 써야 하는데, 나름 성실하게 참여했다. ( 물론 재미 있는 것들만... ) 고등학교 때 국어 시험 모의고사를 볼 때, 뒷 내용이 궁금해서 따로 메모해서 볼 정도다. 영화도 좋.. 자유/잡담 2024. 1. 28. 24년 1월의 나. 최근 이모저모 든 생각들 최근에 우연히 서핑하다 재밌는 블로그를 봤었어요. 잘 기억은 안나는데, 글도 오래 되고 말투가 조..금? 많이? 연세가 있어보이시긴 했는데, 오... 글의 흡입력이 장난아니더라고요. 거의 모든 글을 읽게 되더라고요. 몇 줄 안되는 글도, 긴 글도, 모두 감정이 생생한 게 인상 깊었어요. 한 줄, 한 줄마다 마음에 와닿았습니다. 그런 순수한 감정이 담긴 글을 보는 게 굉장히 오랜만이었네요. 저에게도 흑역사 시절이 있었는데요. 그 블로그보다 더 한 이상한 컨셉과 말투로 커뮤니티에서 무려 3년(?)을 지냈죠. 🤣 어려서 그랬을까, 그 땐 서슴없이 감정을 담았는데요, 어느 순간부터 글에 제 감정을, 제 자신을 숨기게 되더라고요. 어떻게 저렇게 글을 쓸 수 있으셨을까? 신기해 하면서도, 마음 속 응어리가 풀렸달까.. 자유/잡담 2024. 1. 26. [Node.js] 도메인 접속 오류 / Typescript Declare Global 오류 / EAI_AGAIN getaddrinfo 오류 해결 방법 어제 잠깐 조수로(?) 도와주고 있는 사이드 프로젝트에서 오류가 발생했다. 분명 얼마 전 까지 잘 되었는데 갑자기 도메인이 먹통되는 등 tsconfig 설정이 말을 안듣는 등 하더니, 이번엔 RDB 연결까지 안 되더라... 그만 죄 없는 노드를 탓해버리고 말았다. 도메인 문제도 역대급이었는데... 잘 되던 서버가 갑자기 안되었다. 무료로 SSL 인증서를 발급해주는 LetsEncrypt(Certbot) 이 이상이 생겼나 싶어서 제한 걸릴 때 까지 셋팅해보고, NginX 재설치도 해보고, 별의 별 거 다 해봤는데 해결이 안되었는데... 혹시나 싶어서 구매한 도메인 문젠가 싶어서 AWS Route 53 에 들어갔더니 인증 메일 기간이 지나서 다시 메일 요청하라는 메시지가 보였다...🤣🤣 덤으로 도메인은 중지되.. 프로젝트/단기 프로젝트 2024. 1. 25. 한빛미디어 도서 서평단 <나는리뷰어다2024> 신청 방법 / 서평 노하우 방출 안녕하세요, 다람쥐입니다! 어제 (1월 2일) 한빛미디어 도서 서평단 를 모집하는 메일을 받았어요! 매 해 한빛미디어 도서 서평단 를 했었는데요..! 연 초 될 때 마다, 올 해에도 '나는 리뷰어다' 서평단을 모집하시려나?! 하고 기대에 부푼데요. 🥹 올 해도 감사하게도 서평단을 모집하셔서 냅다 신청했습니다. 🤣 '한빛미디어 도서 서평단 나는 리뷰어다' 에 참여하면, 한 달에 한 번 한빛미디어 도서를 서평합니다! 여러 개의 도서 중에서 3 권을 선택하여, 그 중 한 권을 추첨으로 받게 됩니다. 종이 책으로도 받을 수 있고, 전자 책으로도 받을 수 있어요. 제가 제일 좋았던 건 신간 도서도 추첨 목록에 있다는 점이었어요. 한 달마다 새로운 기술 트렌드를 파악할 수 있었어요. 평소에 한빛 미디어에서 신간 도.. 자유/대외 활동 2024. 1. 4. 이전 1 2 3 4 5 6 7 ··· 45 다음