Skip to content

Conversation

@pavels3579
Copy link

No description provided.

Copy link
Collaborator

@spajic spajic left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Я решил исправить эту проблему, оптимизировав эту программу.

## Формирование метрики
Для того, чтобы понимать, дают ли мои изменения положительный эффект на быстродействие программы я придумал использовать такую метрику: проверка использования памяти на файле с меньшим количество строк (40000 строк).
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Сорри за духоту, но это не метрика; метрика это число какое-то, которое характеризует вашу систему

- memory_profiler показал, что split строк файла занимает 18.95 MB
- как вы решили её оптимизировать - было решено переделать и написать в "потоковом" стиле
- как изменилась метрика: память уменьшилась с 98.00 MB до 15 MB
- как изменился отчёт профилировщика - обработка строк большого файла теперь занимает 15 MB и 27,47 секунд.
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

самый кайф, что на тех же 15МБ можно любой объём данных перелопатить

### Ваша находка №4
- memory_profiler показал, что получение "Даты сессий через запятую в обратном порядке в формате" занимает 30.83 MB MB
- как вы решили её оптимизировать - решил упростить получение дат сессий
- как изменилась метрика: память уменьшилась с 127.15 MB MB до 98.00 MB
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

сорри за духоту, но тут лучше уточнить формулировки; "память уменьшилась" звучит не очень конкретно


def write_user(user, stream_writer)
stream_writer.push_key("#{user.first_name} #{user.last_name}")
stream_writer.push_object
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

лайк за stream_writer


### Ваша находка №5
- memory_profiler показал, что split строк файла занимает 18.95 MB
- как вы решили её оптимизировать - было решено переделать и написать в "потоковом" стиле
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

хорошо, что сделали несколько итераций до этого, польза++

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants