Ну ты еврей, развил систему. И вообще концепт идеи мой был, хочу процент
правда я хотел запилить автообновление цен и не только карточки
Кстати, можно еще смотреть продаванов орбов ценой заметно ниже медианы, скупать, перепродавать
Насчет позиций - уники которые продаются быстро есть запись в апи которая появилась с ценой А и исчезла из апи через 5-10 минут. Потом смотрим на статистику и думаем за чем следить. Правла тут кодить побольше чем твой краулер на двадцать строчек 
Твой концепт - "Концепт помойка". Нафига нам знать, что средняя температура по больнице 36.6?
У тебя была мысль объединить поетрейд и поенинзя, грабить всю эту инфу (18 часов работы парсера, 22 гига распарсено, а не сохранено!), выделять среднюю цену и выдавать оффера ниже нее.
Это просто трата времени. Гораздо эффективнее парсить и каждый раз вносить в базу офферы, которые ниже или соотвествуют заданной цене, и выдавать их юзеру в режиме реального времени, чтобы последний мог их купить.
Кстати там не 20 строк, так 400 с GPL лицензией 
Так же там html'ка, которая дергает с динамики (дада, там 3м модулем идет динамика на JSP) несколько раз в секунду свежие офферы и пищит при появлении оных.
Это же логично. Если цена пакета молока 1 экзальт, и она всегда такая, и его продают и покупают по такой цене, то ищи офферы по 0.8, а если офферов по 0.8 нет, но по 0.9 много появляется за день, то покупай по 0.9 и продавай по 1.1, так как спрос велик и можно пожадничать. Для этого сбор статистики нафиг не нужен.
Обрати внимание в пики торговли:
Mon Oct 10 19:05:14 UTC 2016|20955391-22597018-21046142-24497532-22906690 in 5690677 bytes, 2761 items have price, 0 matching a filter
Mon Oct 10 19:05:24 UTC 2016|20955421-22597064-21046169-24497564-22906724 in 5846100 bytes, 2554 items have price, 0 matching a filter
Mon Oct 10 19:05:40 UTC 2016|20955447-22597099-21046206-24497599-22906750 in 5818550 bytes, 2782 items have price, 0 matching a filter
Mon Oct 10 19:05:50 UTC 2016|20955486-22597129-21046229-24497630-22906780 in 5941951 bytes, 2573 items have price, 0 matching a filter
Mon Oct 10 19:06:03 UTC 2016|20955520-22597153-21046263-24497660-22906814 in 5336624 bytes, 3000 items have price, 0 matching a filter
Mon Oct 10 19:06:19 UTC 2016|20955551-22597182-21046293-24497687-22906845 in 5896143 bytes, 3007 items have price, 0 matching a filter
Mon Oct 10 19:06:29 UTC 2016|20955578-22597214-21046320-24497717-22906878 in 5583919 bytes, 2687 items have price, 0 matching a filter
Mon Oct 10 19:06:40 UTC 2016|20955604-22597246-21046344-24497746-22906911 in 5601594 bytes, 2499 items have price, 0 matching a filter
Mon Oct 10 19:06:53 UTC 2016|20955630-22597279-21046373-24497770-22906940 in 5785830 bytes, 2719 items have price, 1 matching a filter
Mon Oct 10 19:07:03 UTC 2016|20955664-22597309-21046402-24497800-22906972 in 5519467 bytes, 3136 items have price, 0 matching a filter
Mon Oct 10 19:07:21 UTC 2016|20955701-22597339-21046439-24497833-22906997 in 5790469 bytes, 2242 items have price, 0 matching a filter
Mon Oct 10 19:07:31 UTC 2016|20955734-22597371-21046478-24497873-22907022 in 5776905 bytes, 2520 items have price, 0 matching a filter
Mon Oct 10 19:07:45 UTC 2016|20955772-22597403-21046510-24497902-22907057 in 5797203 bytes, 2286 items have price, 0 matching a filter
Mon Oct 10 19:08:01 UTC 2016|20955800-22597442-21046536-24497932-22907105 in 6041447 bytes, 2861 items have price, 1 matching a filter
Mon Oct 10 19:08:14 UTC 2016|20955824-22597473-21046571-24497968-22907134 in 6121318 bytes, 2624 items have price, 0 matching a filter
Mon Oct 10 19:08:27 UTC 2016|20955853-22597503-21046601-24498000-22907174 in 5762017 bytes, 2457 items have price, 0 matching a filter
Mon Oct 10 19:08:38 UTC 2016|20955876-22597533-21046624-24498034-22907214 in 5542918 bytes, 3177 items have price, 0 matching a filter
Mon Oct 10 19:08:49 UTC 2016|20955908-22597566-21046653-24498072-22907260 in 5646905 bytes, 2711 items have price, 1 matching a filter
Вот, кстати, линк на поенинзя http://poe.ninja/esc/stats
Ребята почти 700 гигов распарсили, а в базе у них просто средняя цена за день.
На поетрейде даже страшно подумать, сколько там шмотья и как он чистит базу, так как все айтемы по апи идут как `"verified": false`.
Вот пример ванды:
{
"verified": false,
"w": 1,
"h": 3,
"ilvl": 83,
"icon": "http:\/\/web.poecdn.com\/image\/Art\/2DItems\/Weapons\/OneHandWeapons\/Wands\/WandUnique2.png?scale=1&w=1&h=3&v=95ee6e53174b5905f951470c6021d05d3",
"league": "Essence",
"id": "011ef8a698e5cb89c81b9cb2e0dd999f390e111c368a617fd217bfcad2672261",
"sockets": [{
"group": 0,
"attr": "I"
}, {
"group": 0,
"attr": "I"
}],
"name": "<<set:MS>><<set:M>><<set:S>>Moonsorrow",
"typeLine": "Imbued Wand",
"identified": true,
"corrupted": false,
"lockedToCharacter": false,
"properties": [{
"name": "Wand",
"values": [],
"displayMode": 0
}, {
"name": "Quality",
"values": [
["+12%", 1]
],
"displayMode": 0
}, {
"name": "Physical Damage",
"values": [
["57-109", 1]
],
"displayMode": 0
}, {
"name": "Critical Strike Chance",
"values": [
["8.00%", 0]
],
"displayMode": 0
}, {
"name": "Attacks per Second",
"values": [
["1.50", 0]
],
"displayMode": 0
}],
"requirements": [{
"name": "Level",
"values": [
["59", 0]
],
"displayMode": 0
}, {
"name": "Int",
"values": [
["188", 0]
],
"displayMode": 1
}],
"implicitMods": ["34% increased Spell Damage"],
"explicitMods": ["Socketed Gems are supported by level 5 Blind", "39% increased Spell Damage", "175% increased Physical Damage", "+10 to Intelligence", "26% increased Lightning Damage", "10% increased Cast Speed", "10% chance to Blind Enemies on hit"],
"flavourText": ["Cast into darkness\r", "And trapped for a thousand years,\r", "The lonely moon weeps"],
"frameType": 3,
"x": 7,
"y": 6,
"inventoryId": "Stash54",
"socketedItems": []
}