Commit Graph
70 Commits
Author SHA1 Message Date
Daniel Cortes 65c77c679f Continuando con el almacenamiento de datos en cache
Va a mejor la cosa, tengo que hacer tests si o tambien porque no estoy
nada seguro si es que todo funciona como espero ya que toda llamada a la
api corresponde a una llamada a cache y descubrir si es que esta todo en
cache como se espera

Voy a terminar del modo que lo estoy haciendo y tal vez cambio esto a un
modulo de cache el cual se encargara de o obtener datos desde cache o
llamar a music brainz para suplir los datos que no puede responder
2020-06-10 00:02:45 -04:00
Daniel Cortes d62253051b agregado cache a get_artist_of_disc 2020-06-09 05:55:48 -04:00
Daniel Cortes d6060915de stash me da mas problemas de los que deberia asi que se va 2020-06-09 05:02:38 -04:00
Daniel Cortes b44c18770e get_artist_of_disc con cache 2020-06-09 04:49:39 -04:00
Daniel Cortes cabe607958 Volver a py-redis
Resulta que django-redis es muy bonito pero esta pensado para usarse
como el cache por default de django, remplazando a memcached y por eso
no permite casi ninguna de las funcionalidades que redis permite, como
usar listas y sets.
Djang-redis permite usar el cliente directamente pero el codigo se
estaba haciendo largo y creando mas problemas de los que necesito
Asi que voy a usar el cliente regular, asi me evito dramas
2020-06-09 04:08:08 -04:00
Daniel Cortes 72bcf94d11 Trabajando para aprovechar el cache el las relaciones 2020-06-09 01:55:12 -04:00
Daniel Cortes 2edca8e255 Se remplazo la conexion a cache de django a la nativa 2020-06-08 23:14:13 -04:00
Daniel Cortes 765e482958 removida dependencia no usada 2020-06-08 22:50:38 -04:00
Daniel Cortes 1e548be114 Reintentar request si es que el servidor responde con 503
Resulta que musicbrainz puede responde con 503 a pesar de ser buena
gente y mantener el ratelimit, esto puede ser por varias razones
documentadas en
https://musicbrainz.org/doc/XML_Web_Service/Rate_Limiting
2020-06-08 22:39:01 -04:00
Daniel Cortes 749aa50ee1 es workers no worker 2020-06-08 22:04:53 -04:00
Daniel Cortes 5450e6522e Es necesario reiniciar los workers en deploy 2020-06-08 21:59:25 -04:00
Daniel Cortes 06b2ff0c4b load_cover_art como job de alta prioridad
Ya que no tengo limite de request por segundo a coverart archive solo
hago mas lento el worker default con las request hacia alla sumando a
que tengo que esperar a que termine el resto

En un worker separado no tengo esas limitaciones
2020-06-08 21:00:44 -04:00
Daniel Cortes 4066a6c9e1 No estaba instalando los requirements de produccion 2020-06-08 19:37:40 -04:00
Daniel Cortes 2646438343 escribi -f en vez de -r 2020-06-08 19:30:10 -04:00
Daniel Cortes c076b11993 rm -r para eliminar carpetas ~~ 2020-06-08 19:25:18 -04:00
Daniel Cortes 392dba39ea Inclusion de un ratelimit usando cache
Necesitaba un ratelimit que estuviera disponible en todos los workers,
cosa que aparentemente la libreria que estaba usando no tomaba en cuenta

asi que la mejor idea que tuve es aprovechar el cache y usarlo para
generar el ratelimit :3 asi que como todos los workers se comunican con
el mismo cache, todos van a compartir el mismo lock
2020-06-08 19:14:51 -04:00
Daniel Cortes b71b6e824d json.load es differente a json.loads 2020-06-08 17:19:07 -04:00
Daniel Cortes ac58e29c75 Definidos jobs basicos y comunicacion con estos 2020-06-08 16:56:14 -04:00
Daniel Cortes 90c34dada3 Me equivoque en la key de release-group-count 2020-06-08 05:16:19 -04:00
Daniel Cortes 54d18f0d76 Agregando jobs para rellenar el cache de datos 2020-06-08 05:11:34 -04:00
Daniel Cortes fce2072f82 Tampoco era buena idea hacer querys en los mapeos 2020-06-08 04:19:05 -04:00
Daniel Cortes a3b4479579 Parallel map fue una mala idea~ 2020-06-08 04:07:07 -04:00
Daniel Cortes d46c2f61ca Removiendo uso de cache en musicbrainz
Esto esta en proceso, se va a mover el cache a medium, donde se puede
controlar lo que se esta haciendo, ya que se planea que musicbrainz.py
sea simplemente una capa de conexion
2020-06-08 03:56:59 -04:00
Daniel Cortes 0e2ac5a1e3 Implentada RQ_Queues en el proyecto 2020-06-08 03:49:12 -04:00
Daniel Cortes 0d2d23e2e1 Utilizando cache de django 2020-06-08 02:10:01 -04:00
Daniel Cortes 6498bf9c48 Chequeo user agents en _do_request 2020-06-08 01:48:02 -04:00
Daniel Cortes 67e5e8a7a2 Divisiones visuales en medium 2020-06-08 00:29:43 -04:00
Daniel Cortes c447416981 Precommit confirma que el lint esta gud 2020-06-07 23:44:17 -04:00
Daniel Cortes 8590668023 Me falto pylint django 2020-06-07 23:15:14 -04:00
Daniel Cortes 850b0e0a4a NO SE ESCRIBIR 2020-06-07 23:12:12 -04:00
Daniel Cortes edbdcb1296 Agregados requerimientos y separados por dev y prod 2020-06-07 23:10:00 -04:00
Daniel Cortes 0a6d9c3c8e Realmente no es necesario venv en el test 2020-06-07 23:05:15 -04:00
Daniel Cortes 5f16cd40e4 Se me olvido setear python y el enviroment 2020-06-07 23:04:54 -04:00
Daniel Cortes a6d3862900 Agregada stage de testeo a gitlab-ci 2020-06-07 23:01:39 -04:00
Daniel Cortes a4ec4d35cc Lint script 2020-06-07 22:59:12 -04:00
Daniel Cortes 0d2a4a518d Ahora si pylint es feliz con todos los modulos :3 2020-06-07 22:37:38 -04:00
Daniel Cortes 4f5ec17815 Creo que termine de hacer feliz a pylint 2020-06-07 22:31:15 -04:00
Daniel Cortes a0a5857a8b Sigo haciendo feliz a pylint 2020-06-07 22:29:38 -04:00
Daniel Cortes 40a5d37bb8 Modificando codigo para que pylint sea feliz 2020-06-07 20:52:22 -04:00
Daniel Cortes 6acf81b599 Cambios para satisfacer a pylint 2020-06-07 18:39:24 -04:00
Daniel Cortes 70b9c10229 Cambios para satisfacer a pylint 2020-06-07 18:37:29 -04:00
Daniel Cortes 5a5a96a365 Allow all hosts en dev 2020-06-07 00:34:52 -04:00
Daniel Cortes 4f3c4e0b95 Probando si el servidor puede con threads 2020-06-04 07:19:07 -04:00
Daniel Cortes 5f5abd178d Paralelizados los mapeos
Esto es para mucha mas rapida ejecucion <3
2020-06-04 07:06:29 -04:00
Daniel Cortes 8b90a876dc Coverart archive no tiene limite de requests! 2020-06-04 06:18:13 -04:00
Daniel Cortes 50b5694865 Traduciendo country_codes 2020-06-03 21:29:35 -04:00
Daniel Cortes c654f447b1 Traduciendo type en artista 2020-06-03 17:22:04 -04:00
Daniel Cortes 11087c3a89 Only allow musiclist as cors origin 2020-06-03 16:02:14 -04:00
Daniel Cortes 26c4d3ab1c Regex para cors en localhost 2020-06-03 15:59:27 -04:00
Daniel Cortes 908ca8a2b9 Allow cors from localhost 2020-06-03 15:28:50 -04:00