Negociação de alta freqüência - HFT O que é negociação de alta freqüência - HFT A negociação de alta freqüência (HFT) é uma plataforma de negociação de programa que usa computadores poderosos para transacionar um grande número de ordens em velocidades muito rápidas. Utiliza algoritmos complexos para analisar múltiplos mercados e executar pedidos com base nas condições do mercado. Normalmente, os comerciantes com as velocidades de execução mais rápidas são mais rentáveis do que os comerciantes com velocidades de execução mais lentas. BREAKING DOWN Negociação de alta freqüência - HFT O comércio de alta freqüência tornou-se popular quando os intercâmbios começaram a oferecer incentivos para que as empresas adicionassem liquidez ao mercado. Por exemplo, a Bolsa de Valores de Nova York (NYSE) tem um grupo de provedores de liquidez chamado Provedores de Liquidez Suplementar (SLPs) que tentam adicionar concorrência e liquidez às cotações existentes na bolsa. Como incentivo para as empresas, a NYSE paga uma taxa ou desconto por fornecer essa liquidez. Em julho de 2016, o desconto médio do SLP foi de 0,0019 para os títulos cotados na NYSE e na NYSE MKT na NYSE. Com milhões de transações por dia, isso resulta em uma grande quantidade de lucros. O SLP foi introduzido após o colapso do Lehman Brothers em 2008, quando a liquidez era uma grande preocupação para os investidores. Benefícios do HFT O principal benefício do HFT é que ele melhorou a liquidez do mercado e removeu spreads bid-ask que anteriormente teria sido muito pequeno. Isso foi testado adicionando taxas sobre HFT, e como resultado, spreads bid-ask aumentou. Um estudo avaliou como os spreads canadenses bid-ask mudaram quando o governo introduziu taxas sobre HFT, e verificou-se que os spreads de oferta e demanda aumentaram em 9. Críticas de HFT HFT é controversa e tem recebido algumas duras críticas. Ele substituiu uma grande quantidade de corretores e usa modelos matemáticos e algoritmos para tomar decisões, tomando a decisão humana e interação fora da equação. Decisões acontecem em milissegundos, e isso poderia resultar em grandes movimentos do mercado sem razão. Como exemplo, em 6 de maio de 2010, a Dow Jones Industrial Average (DJIA) sofreu sua maior queda intraday ponto nunca, declinando 1.000 pontos e caindo 10 em apenas 20 minutos antes de subir novamente. Uma investigação do governo culpou uma ordem maciça que desencadeou um sell-off para o acidente. Uma crítica adicional da HFT é que permite que as grandes empresas lucrem às custas dos pequenos, ou dos investidores institucionais e de varejo. Outra queixa importante sobre HFT é a liquidez fornecida pela HFT é a liquidez fantasma, o que significa que fornece liquidez que está disponível para o mercado um segundo e passou o próximo, impedindo os comerciantes de realmente ser capaz de negociar esta liquidez. Gestão Alta freqüência sistema de comércio design e gestão de processos Consultor: Roy E. Welsch. Departamento: Programa de Design e Gestão de Sistemas. As empresas comerciais hoje em dia são altamente dependentes de mineração de dados, modelagem de computador e desenvolvimento de software. Os analistas financeiros executam muitas tarefas semelhantes às do software e das indústrias transformadoras. No entanto, o setor financeiro ainda não adotou completamente padrões de engenharia de sistemas de alto padrão e abordagens de gerenciamento de processos que tiveram êxito nas indústrias de software e manufatura. Muitas das metodologias tradicionais para o projeto do produto, o controle de qualidade, a inovação sistemática, ea melhoria contínua encontrada nas disciplinas da engenharia podem ser aplicadas ao campo das finanças. Esta tese mostra como os conhecimentos adquiridos a partir de disciplinas de engenharia podem melhorar a concepção e gestão de processos de sistemas de negociação de alta frequência. Sistemas de negociação de alta freqüência são baseados em computação. Estes sistemas são sistemas de software automáticos ou semi-automáticos que são inerentemente complexos e requerem um alto grau de precisão de projeto. O design de um sistema de negociação de alta freqüência vincula vários campos, incluindo finanças quantitativas, design de sistemas e engenharia de software. No setor financeiro, onde teorias matemáticas e modelos de negociação são relativamente bem pesquisados, a capacidade de implementar esses projetos em práticas comerciais reais é um dos elementos-chave da competitividade das empresas de investimento. A capacidade de converter idéias de investimento em sistemas de negociação de alto desempenho de forma eficaz e eficiente pode dar uma empresa de investimento uma vantagem competitiva enorme. (Cont.) Esta tese fornece um estudo detalhado composto de alta freqüência sistema de comércio design, modelagem de sistemas e princípios e gestão de processos Para o desenvolvimento do sistema. É dada especial ênfase ao backtesting e otimização, que são considerados as partes mais importantes na construção de um sistema de comércio. Esta pesquisa constrói modelos de engenharia de sistemas que orientam o processo de desenvolvimento. Também utiliza sistemas de negociação experimental para verificar e validar os princípios abordados nesta tese. Finalmente, esta tese conclui que os princípios e estruturas de engenharia de sistemas podem ser a chave para o sucesso na implementação de sistemas de negociação de alta freqüência ou de investimento quantitativo. Tese (S. M.) - Massachusetts Institute of Technology, Programa de Design e Gestão de Sistemas, 2009. Catalogado a partir da versão em PDF da tese. Inclui referências bibliográficas (p.78-79). Palavras-chave: Projeto de Sistema e Programa de Gestão. Minha contaLinguagem de programação melhor para Algorithmic Trading Systems Uma das perguntas mais freqüentes que recebo no mailbag QS é Qual é a melhor linguagem de programação para negociação algorítmica. A resposta curta é que não há melhor linguagem. Parâmetros de estratégia, desempenho, modularidade, desenvolvimento, resiliência e custo devem ser considerados. Este artigo descreverá os componentes necessários de uma arquitetura de sistema de negociação algorítmica e como as decisões relativas à implementação afetam a escolha da linguagem. Em primeiro lugar, serão consideradas as principais componentes de um sistema de negociação algorítmica, tais como ferramentas de pesquisa, otimizador de portfólio, gerenciador de risco e mecanismo de execução. Posteriormente, diferentes estratégias de negociação serão examinadas e como elas afetam a concepção do sistema. Em particular, a frequência das negociações eo provável volume de transacções serão discutidos. Uma vez selecionada a estratégia de negociação, é necessário arquitetar todo o sistema. Isso inclui a escolha do hardware, do (s) sistema (s) operacional (is) e da resiliência do sistema contra eventos raros, potencialmente catastróficos. Enquanto a arquitetura está sendo considerada, devemos ter devidamente em conta o desempenho - tanto para as ferramentas de pesquisa como para o ambiente de execução ao vivo. O que é o sistema de negociação tentando fazer Antes de decidir sobre o melhor idioma com o qual escrever um sistema de negociação automatizado é necessário definir os requisitos. Será que o sistema vai ser puramente baseado em execução Será que o sistema exige uma gestão de risco ou módulo de construção de carteira Será que o sistema requer um backtester de alto desempenho Para a maioria das estratégias do sistema de negociação pode ser dividido em duas categorias: Pesquisa e geração de sinal. A pesquisa se preocupa com a avaliação do desempenho de uma estratégia em relação aos dados históricos. O processo de avaliação de uma estratégia de negociação sobre dados de mercado anteriores é conhecido como backtesting. O tamanho dos dados ea complexidade algorítmica terão um grande impacto na intensidade computacional do backtester. A velocidade ea simultaneidade da CPU são muitas vezes os fatores limitantes na otimização da velocidade de execução da pesquisa. Geração de sinal está preocupado com a geração de um conjunto de sinais de negociação a partir de um algoritmo e enviar tais ordens para o mercado, geralmente através de uma corretora. Para certas estratégias é necessário um alto nível de desempenho. As questões de E / S, como a largura de banda ea latência da rede, são freqüentemente o fator limitante na otimização de sistemas de execução. Assim, a escolha das linguagens para cada componente de todo o seu sistema pode ser bastante diferente. Tipo, Frequência e Volume da Estratégia O tipo de estratégia algorítmica empregada terá um impacto substancial na concepção do sistema. Será necessário considerar os mercados que estão sendo negociados, a conectividade com fornecedores de dados externos, a freqüência e o volume da estratégia, o trade-off entre facilidade de desenvolvimento e otimização de desempenho, bem como qualquer hardware personalizado, Servidores, GPUs ou FPGAs que possam ser necessários. As escolhas tecnológicas para uma estratégia de ações de baixa freqüência nos EUA serão muito diferentes das de uma estratégia de arbitragem estatística de alta freqüência negociada no mercado de futuros. Antes da escolha da linguagem muitos fornecedores de dados devem ser avaliados que pertencem a uma estratégia em mãos. Será necessário considerar a conectividade com o fornecedor, a estrutura de qualquer API, a oportunidade dos dados, os requisitos de armazenamento e a resiliência em face de um fornecedor ficar offline. É também aconselhável possuir acesso rápido a vários fornecedores. Vários instrumentos têm todos os seus próprios caprichos de armazenamento, exemplos dos quais incluem múltiplos símbolos de ticker para ações e datas de vencimento para futuros (sem mencionar quaisquer dados OTC específicos). Isso precisa ser incorporado ao design da plataforma. Freqüência da estratégia é provável que seja um dos maiores drivers de como a pilha de tecnologia será definida. Estratégias empregando dados com mais freqüência do que minuciosamente ou barras de segunda necessidade significativa consideração no que diz respeito ao desempenho. Uma estratégia que ultrapassa as barras secundárias (isto é, dados de carraça) conduz a um design conduzido pelo desempenho como requisito primário. Para estratégias de alta freqüência, uma quantidade substancial de dados de mercado precisará ser armazenada e avaliada. Software como HDF5 ou kdb são comumente usados para essas funções. Para processar os volumes extensos de dados necessários para aplicações HFT, um backtester extensivamente otimizado e sistema de execução deve ser usado. CC (possivelmente com algum montador) é provável que o candidato linguagem mais forte. As estratégias de freqüência ultra-alta quase certamente exigirão hardware personalizado, como FPGAs, troca de co-location e kernalnetwork interface tuning. Sistemas de pesquisa Os sistemas de pesquisa normalmente envolvem uma mistura de desenvolvimento interativo e scripts automatizados. O primeiro ocorre frequentemente dentro de um IDE, como Visual Studio, MatLab ou R Studio. Este último envolve cálculos numéricos extensos sobre vários parâmetros e pontos de dados. Isso leva a uma escolha de linguagem proporcionando um ambiente simples para testar o código, mas também fornece desempenho suficiente para avaliar estratégias em várias dimensões de parâmetro. IDEs típicos neste espaço incluem Microsoft Visual CC, que contém utilitários de depuração extensa, capacidades de conclusão de código (via Intellisense) e vistas gerais diretas de toda a pilha de projeto (via o banco de dados ORM, LINQ) MatLab. Que é projetado para a álgebra linear numerosa extensa e operações vectorized, mas em uma maneira console interativa R Studio. Que envolve o console de linguagem estatística R em um IDE Eclipse IDE totalmente desenvolvido para Linux Java e C e IDEs semi-proprietários, como o Enthought Canopy para Python, que incluem bibliotecas de análise de dados como NumPy. SciPy. Scikit-learn e pandas em um único ambiente interativo (console). Para backtesting numérico, todos os idiomas acima são adequados, embora não seja necessário utilizar uma GUIIDE como o código será executado em segundo plano. A principal consideração nesta fase é a da velocidade de execução. Uma linguagem compilada (como C) é frequentemente útil se as dimensões do parâmetro backtesting forem grandes. Lembre-se que é necessário ser cuidadoso com tais sistemas, se for esse o caso linguagens interpretadas como Python muitas vezes fazem uso de bibliotecas de alto desempenho, como NumPypandas para o backtesting passo, a fim de manter um grau razoável de competitividade com equivalentes compilados. Em última análise, o idioma escolhido para o backtesting será determinado por necessidades específicas algorítmicas, bem como a gama de bibliotecas disponíveis no idioma (mais sobre isso abaixo). No entanto, a linguagem utilizada para o backtester e ambientes de pesquisa pode ser completamente independente daqueles usados nos componentes de construção de portfólio, gerenciamento de risco e execução, como veremos. Construção de Portfólio e Gerenciamento de Risco Os componentes de construção de carteira e gerenciamento de risco são freqüentemente ignorados por comerciantes de algoritmos de varejo. Isso é quase sempre um erro. Essas ferramentas fornecem o mecanismo pelo qual o capital será preservado. Eles não só tentam aliviar o número de apostas arriscadas, mas também minimizar o churn das próprias operações, reduzindo os custos de transação. Versões sofisticadas desses componentes podem ter um efeito significativo na qualidade e consistência da lucratividade. É fácil criar um estável de estratégias como o mecanismo de construção de carteira e gerente de risco pode ser facilmente modificado para lidar com vários sistemas. Assim, eles devem ser considerados componentes essenciais no início do projeto de um sistema de negociação algorítmica. O trabalho do sistema de construção de carteira é levar um conjunto de negócios desejados e produzir o conjunto de negócios reais que minimizam churn, manter exposições a vários fatores (como setores, classes de ativos, volatilidade etc) e otimizar a alocação de capital para vários Estratégias em um portfólio. A construção da carteira reduz-se frequentemente a um problema linear da álgebra (tal como uma factorização da matriz) e conseqüentemente o desempenho é altamente dependente da eficácia da execução numérica da álgebra linear disponível. As bibliotecas comuns incluem uBLAS. LAPACK e NAG para C. MatLab também possui operações de matriz amplamente otimizadas. Python utiliza NumPySciPy para tais computações. Uma carteira freqüentemente reequilibrada exigirá uma biblioteca de matriz compilada (e bem otimizada) para levar essa etapa para fora, de modo a não encolher o sistema de negociação. A gestão de risco é outra parte extremamente importante de um sistema de negociação algorítmica. O risco pode vir de várias formas: Aumento da volatilidade (embora isso possa ser visto como desejável para certas estratégias), aumento de correlações entre classes de ativos, padrão de contraparte, interrupções de servidores, eventos de cisne preta e bugs não detectados no código de negociação poucos. Os componentes de gerenciamento de risco tentam antecipar os efeitos da volatilidade excessiva e correlação entre as classes de ativos e seus efeitos subseqüentes sobre o capital comercial. Muitas vezes isso se reduz a um conjunto de cálculos estatísticos, como testes de estresse de Monte Carlo. Isso é muito semelhante às necessidades computacionais de um mecanismo de determinação de preços de derivados e, como tal, será ligado à CPU. Essas simulações são altamente paralelas (ver abaixo) e, até certo ponto, é possível lançar hardware no problema. Sistemas de Execução O trabalho do sistema de execução é receber sinais de negociação filtrada dos componentes de construção de carteira e gerenciamento de risco e enviá-los para uma corretora ou outros meios de acesso ao mercado. Para a maioria das estratégias de negociação de algoritmos de varejo, isso envolve uma conexão API ou FIX para uma corretora, como Interactive Brokers. As principais considerações ao decidir sobre uma linguagem incluem a qualidade da API, a disponibilidade do wrapper de linguagem para uma API, a freqüência de execução ea antecipação do deslizamento. A qualidade da API refere-se a quão bem documentada é, que tipo de desempenho fornece, se ele precisa de software autônomo para ser acessado ou se um gateway pode ser estabelecido de uma forma sem cabeça (ou seja, sem GUI). No caso de Interactive Brokers, a ferramenta Trader WorkStation precisa estar em execução em um ambiente GUI para acessar sua API. Uma vez eu tive que instalar uma edição Desktop Ubuntu em um servidor de nuvem Amazon para acessar Interactive Brokers remotamente, puramente por esta razão A maioria das APIs irá fornecer uma interface C andor Java. Normalmente, é a comunidade que desenvolve invólucros específicos de linguagem para C, Python, R, Excel e MatLab. Observe que com cada plugin adicional utilizado (especialmente API wrappers) há espaço para bugs a fluência no sistema. Sempre testar plugins desse tipo e garantir que eles sejam mantidos ativamente. Um indicador valioso é ver quantas novas atualizações de um codebase foram feitas nos últimos meses. A freqüência de execução é de extrema importância no algoritmo de execução. Observe que centenas de pedidos podem ser enviados a cada minuto e, como tal, o desempenho é crítico. Deslizamento será incorrido através de um sistema de execução mal executado e isso terá um impacto dramático sobre a rentabilidade. Linguagens estaticamente tipadas (veja abaixo), como CJava, geralmente são ótimas para execução, mas há um trade-off no tempo de desenvolvimento, teste e facilidade de manutenção. As linguagens de tipo dinâmico, como Python e Perl, são agora geralmente suficientemente rápidas. Certifique-se sempre de que os componentes são projetados de forma modular (veja abaixo) para que possam ser trocados para fora à medida que o sistema é escalado. Processo de Planejamento e Desenvolvimento Arquitetônico Os componentes de um sistema de negociação, suas necessidades de freqüência e volume foram discutidos acima, mas a infra-estrutura do sistema ainda não foi coberta. Aqueles que atuam como um comerciante de varejo ou trabalhando em um pequeno fundo provavelmente será usando muitos chapéus. Será necessário estar cobrindo o modelo alfa, os parâmetros de gerenciamento e execução de riscos, e também a implementação final do sistema. Antes de aprofundar em linguagens específicas o projeto de uma arquitetura de sistema ideal será discutido. Separação de preocupações Uma das decisões mais importantes que devem ser tomadas no início é como separar as preocupações de um sistema de comércio. No desenvolvimento de software, isso significa essencialmente como quebrar os diferentes aspectos do sistema de comércio em componentes modulares separados. Ao expor as interfaces em cada um dos componentes, é fácil trocar partes do sistema por outras versões que auxiliem o desempenho, a confiabilidade ou a manutenção, sem modificar nenhum código de dependência externa. Esta é a melhor prática para esses sistemas. Para estratégias em freqüências mais baixas tais práticas são aconselhadas. Para a negociação de freqüência ultra alta o livro de regras pode ter que ser ignorado à custa de ajustar o sistema para ainda mais desempenho. Um sistema mais fortemente acoplado pode ser desejável. A criação de um mapa de componentes de um sistema de negociação algorítmico vale um artigo em si. No entanto, uma abordagem ótima é certificar-se de que há componentes separados para as entradas de dados históricos e em tempo real do mercado, armazenamento de dados, API de acesso a dados, backtester, parâmetros de estratégia, construção de portfólio, gerenciamento de riscos e sistemas de execução automatizada. Por exemplo, se o armazenamento de dados que está sendo usado está underperforming, até mesmo em níveis significativos de otimização, ele pode ser trocado com rewrites mínimo para a ingesta de dados ou API de acesso a dados. Tanto quanto o backtestter e componentes subsequentes estão em causa, não há diferença. Outro benefício de componentes separados é que ele permite que uma variedade de linguagens de programação para ser usado no sistema global. Não é necessário restringir-se a uma única língua se o método de comunicação dos componentes for independente da linguagem. Este será o caso se eles estão se comunicando via TCPIP, ZeroMQ ou algum outro protocolo independente de linguagem. Como exemplo concreto, considere o caso de um sistema de backtesting sendo escrito em C para o desempenho de crunching de números, enquanto o gerenciador de portfólio e sistemas de execução são escritos em Python usando SciPy e IBPy. Considerações sobre Desempenho O desempenho é uma consideração significativa para a maioria das estratégias de negociação. Para as estratégias de freqüência mais alta, é o fator mais importante. Desempenho cobre uma ampla gama de problemas, tais como velocidade de execução algorítmica, latência de rede, largura de banda, IO de dados, paralelismo de concorrência e dimensionamento. Cada uma dessas áreas são cobertas individualmente por grandes livros didáticos, portanto, este artigo apenas arranhará a superfície de cada tópico. A arquitetura ea escolha da língua serão agora discutidas em termos de seus efeitos sobre o desempenho. A sabedoria predominante como afirmado por Donald Knuth. Um dos pais da Ciência da Computação, é que a otimização prematura é a raiz de todo mal. Isso é quase sempre o caso - exceto quando se constrói um algoritmo de negociação de alta freqüência Para aqueles que estão interessados em estratégias de baixa freqüência, uma abordagem comum é construir um sistema da maneira mais simples possível e apenas otimizar como gargalos começam a aparecer. As ferramentas de criação de perfil são usadas para determinar onde surgem gargalos. Perfis podem ser feitos para todos os fatores listados acima, em um ambiente MS Windows ou Linux. Existem muitas ferramentas de sistema operacional e linguagem disponíveis para fazê-lo, bem como utilitários de terceiros. A escolha da língua será agora discutida no contexto do desempenho. C, Java, Python, R e MatLab contêm bibliotecas de alto desempenho (tanto como parte de seu padrão ou externamente) para estrutura de dados básicos e trabalho algorítmico. C é fornecido com a Biblioteca de modelos padrão, enquanto o Python contém NumPySciPy. Tarefas matemáticas comuns são encontradas nessas bibliotecas e raramente é benéfico escrever uma nova implementação. Uma exceção é se a arquitetura de hardware altamente personalizada é necessária e um algoritmo está fazendo uso extensivo de extensões proprietárias (como caches personalizados). No entanto, muitas vezes reinvenção da roda desperdiça tempo que poderia ser melhor gasto desenvolvendo e otimizando outras partes da infra-estrutura de negociação. Tempo de desenvolvimento é extremamente precioso, especialmente no contexto de desenvolvedores exclusivos. A latência é muitas vezes uma questão do sistema de execução, uma vez que as ferramentas de pesquisa estão normalmente situadas na mesma máquina. Para o primeiro, latência pode ocorrer em vários pontos ao longo do caminho de execução. Os bancos de dados devem ser consultados (latência de disknetwork), os sinais devem ser gerados (sistema operacional, latência de mensagens kernal), sinais comerciais enviados (latência NIC) e pedidos processados (latência interna dos sistemas de troca). Para operações de freqüência mais alta, é necessário tornar-se intimamente familiarizado com otimização kernal, bem como otimização da transmissão em rede. Esta é uma área profunda e está significativamente além do escopo do artigo, mas se um algoritmo UHFT é desejado, em seguida, estar ciente da profundidade do conhecimento necessário Caching é muito útil no kit de ferramentas de um desenvolvedor de negociação quantitativa. O cache refere-se ao conceito de armazenar dados acessados com frequência de uma forma que permite um acesso de melhor desempenho, à custa da potencial indisponibilidade dos dados. Um caso de uso comum ocorre no desenvolvimento da web ao tirar dados de um banco de dados relacional com suporte a disco e colocá-lo na memória. Quaisquer solicitações subseqüentes para os dados não precisam acertar o banco de dados e, portanto, os ganhos de desempenho podem ser significativos. Para situações de negociação cache pode ser extremamente benéfico. Por exemplo, o estado atual de um portfólio de estratégia pode ser armazenado em um cache até que ele seja reequilibrado, de modo que a lista não precisa ser regenerada em cada loop do algoritmo de negociação. Tal regeneração é provável que seja uma CPU alta ou operação de E / S de disco. No entanto, o cache não é sem seus próprios problemas. A regeneração de dados de cache de uma só vez, devido à natureza volátil do armazenamento em cache, pode colocar uma demanda significativa na infra-estrutura. Outra questão é dog-piling. Onde várias gerações de uma nova cópia de cache são executadas sob carga extremamente alta, o que leva a uma falha em cascata. A alocação dinâmica de memória é uma operação cara na execução do software. Portanto, é imperativo que aplicativos de negociação de maior desempenho estejam bem conscientes de como a memória está sendo alocada e desalocada durante o fluxo do programa. Padrões de linguagem mais recentes, como Java, C e Python, todos executam a coleta automática de lixo. Que se refere à desalocação da memória alocada dinamicamente quando os objetos saem do escopo. A coleta de lixo é extremamente útil durante o desenvolvimento, pois reduz os erros e facilita a legibilidade. No entanto, muitas vezes é sub-ideal para certas estratégias de negociação de alta freqüência. A coleta de lixo personalizada é freqüentemente desejada para esses casos. Em Java, por exemplo, ajustando o coletor de lixo ea configuração de heap, é possível obter alto desempenho para estratégias HFT. C não fornece um coletor de lixo nativo e, portanto, é necessário manipular toda a atribuição de alocação de memória como parte de uma implementação de objetos. Embora potencialmente propenso a erros (potencialmente levando a ponteiros pendentes) é extremamente útil ter controle de grão fino de como objetos aparecem no heap para determinadas aplicações. Ao escolher um idioma, certifique-se de estudar como o coletor de lixo funciona e se ele pode ser modificado para otimizar para um caso de uso particular. Muitas operações em sistemas de negociação algorítmicos são passíveis de paralelização. Isto refere-se ao conceito de realizar operações programáticas múltiplas ao mesmo tempo, isto é, em paralelo. Os chamados algoritmos embarassingly paralelos incluem etapas que podem ser calculadas de forma totalmente independente de outras etapas. Certas operações estatísticas, tais como simulações de Monte Carlo, são um bom exemplo de algoritmos embarassingly paralelos como cada desenho aleatório e operação de caminho subsequente pode ser computado sem o conhecimento de outros caminhos. Outros algoritmos são apenas parcialmente paralelizáveis. As simulações de dinâmica de fluidos são um exemplo, onde o domínio de computação pode ser subdividido, mas, em última instância, esses domínios devem se comunicar uns com os outros e, portanto, as operações são parcialmente sequenciais. Algoritmos paralelizáveis estão sujeitos à Lei Amdahls. Que proporciona um limite superior teórico para o aumento de desempenho de um algoritmo paralelizado quando sujeito a N processos separados (por exemplo, num núcleo de CPU ou thread). A paralelização tornou-se cada vez mais importante como um meio de otimização, uma vez que as velocidades do clock do processador estagnaram, pois os processadores mais recentes contêm muitos núcleos com os quais realizar cálculos paralelos. A ascensão de hardware gráfico de consumo (predominantemente para jogos de vídeo) levou ao desenvolvimento de Unidades de Processamento Gráfico (GPUs), que contêm centenas de núcleos para operações altamente concorrentes. Essas GPUs são agora muito acessíveis. Estruturas de alto nível, como a Nvidias CUDA, têm levado à adoção generalizada na academia e nas finanças. Esse hardware GPU geralmente é adequado apenas para o aspecto de pesquisa de finanças quantitativas, enquanto outros hardware mais especializados (incluindo Field-Programmable Gate Arrays - FPGAs) são usados para (U) HFT. Hoje em dia, a maioria dos langauges modernos suportam um grau de simultaneidademultithreading. Assim, é fácil otimizar um backtester, uma vez que todos os cálculos são geralmente independentes dos outros. Escala em engenharia de software e operações refere-se à capacidade do sistema para lidar consistentemente aumentando cargas na forma de solicitações maiores, maior uso do processador e mais alocação de memória. Na negociação algorítmica uma estratégia é capaz de escalar se ele pode aceitar grandes quantidades de capital e ainda produzir retornos consistentes. A pilha de tecnologia de negociação escalas se ele pode suportar maiores volumes de comércio e aumento da latência, sem gargalos. Enquanto os sistemas devem ser projetados para escalar, muitas vezes é difícil prever antecipadamente onde um gargalo irá ocorrer. Rigorosa exploração madeireira, testes, perfil e monitoramento vai ajudar muito em permitir que um sistema de escala. As próprias línguas são muitas vezes descritas como não escaláveis. Isso geralmente é o resultado de desinformação, ao invés de fato duro. É a pilha de tecnologia total que deve ser determinada para escalabilidade, não a linguagem. Claramente certas línguas têm um desempenho maior do que outras em casos de uso específicos, mas uma língua nunca é melhor que outra em todos os sentidos. Um meio de gerenciar a escala é separar preocupações, como mencionado acima. A fim de introduzir adicionalmente a capacidade de lidar com picos no sistema (isto é, volatilidade súbita que desencadeia uma série de negócios), é útil criar uma arquitectura de enfileiramento de mensagens. Isso significa simplesmente colocar um sistema de fila de mensagens entre componentes para que os pedidos sejam empilhados se um determinado componente não conseguir processar muitos pedidos. Ao invés de solicitações sendo perdidas eles são simplesmente mantidos em uma pilha até que a mensagem é tratada. Isso é particularmente útil para enviar comércios para um mecanismo de execução. Se o motor está sofrendo sob latência pesada, então ele vai fazer o backup de comércios. Uma fila entre o gerador de sinal de comércio e a API de execução aliviará esta questão à custa de uma potencial desvalorização do comércio. Um corretor de fila de mensagens de código aberto bem respeitado é RabbitMQ. Hardware e sistemas operacionais O hardware que executa sua estratégia pode ter um impacto significativo na rentabilidade do seu algoritmo. Este não é um problema restrito aos comerciantes de alta freqüência também. Uma má escolha em hardware e sistema operacional pode levar a uma máquina falhar ou reiniciar no momento mais inoportuno. Assim, é necessário considerar onde sua aplicação vai residir. A escolha é geralmente entre uma máquina desktop pessoal, um servidor remoto, um provedor de nuvem ou um servidor co-localizado de troca. As máquinas de mesa são simples de instalar e administrar, especialmente com os sistemas operacionais mais recentes, como o Windows 78, Mac OSX e Ubuntu. Os sistemas desktop possuem, no entanto, algumas desvantagens significativas. O principal é que as versões de sistemas operacionais projetados para máquinas desktop provavelmente exigirão rebootspatching (e muitas vezes no pior dos casos). Eles também usam mais recursos computacionais pela virtude de exigir uma interface gráfica com o usuário (GUI). A utilização de hardware em um ambiente doméstico (ou local) pode levar a conectividade com a internet e problemas de tempo de atividade. O principal benefício de um sistema desktop é que a potência computacional significativa pode ser comprada para a fração do custo de um servidor dedicado remoto (ou sistema baseado em nuvem) de velocidade comparável. Um servidor dedicado ou uma máquina baseada na nuvem, embora muitas vezes mais cara do que uma opção de desktop, permite uma infra-estrutura de redundância mais significativa, como backups de dados automatizados, a capacidade de garantir mais facilmente o tempo de atividade e o monitoramento remoto. Eles são mais difíceis de administrar, pois requerem a capacidade de usar recursos de login remoto do sistema operacional. No Windows isso geralmente é via o GUI Remote Desktop Protocol (RDP). Em sistemas baseados em Unix, a linha de comando Secure SHell (SSH) é usada. A infraestrutura de servidor baseada em Unix é quase sempre baseada em linha de comando, o que imediatamente torna inutilizáveis ferramentas de programação baseadas em GUI (como MatLab ou Excel). Um servidor co-localizado, como a frase é usada nos mercados de capital, é simplesmente um servidor dedicado que reside dentro de uma troca, a fim de reduzir a latência do algoritmo de negociação. Isso é absolutamente necessário para certas estratégias de negociação de alta freqüência, que dependem de baixa latência para gerar alfa. O aspecto final para a escolha de hardware ea escolha da linguagem de programação é independência de plataforma. Existe uma necessidade para o código para executar em vários sistemas operacionais diferentes É o código projetado para ser executado em um determinado tipo de arquitetura de processador, como o Intel x86x64 ou será possível executar em processadores RISC, como aqueles fabricados pela ARM Estas questões serão altamente dependentes da frequência e do tipo de estratégia a ser implementada. Resiliência e Testes Uma das melhores maneiras de perder muito dinheiro em negociação algorítmica é criar um sistema sem resiliência. Isso se refere à durabilidade do sistema quando sujeito a eventos raros, como falências de corretagem, súbita volatilidade excessiva, tempo de inatividade em toda a região para um provedor de servidor de nuvem ou a exclusão acidental de um banco de dados de negociação inteiro. Anos de lucros podem ser eliminados em poucos segundos com uma arquitetura mal projetada. É absolutamente essencial considerar questões como debuggng, testes, registro, backups, alta disponibilidade e monitoramento como componentes principais de seu sistema. É provável que em qualquer aplicação de negociação quantitativa personalizada razoavelmente complicada pelo menos 50 de tempo de desenvolvimento serão gastos em depuração, testes e manutenção. Quase todas as linguagens de programação enviam com um depurador associado ou possuem alternativas de terceiros bem respeitadas. Em essência, um depurador permite a execução de um programa com inserção de pontos de interrupção arbitrários no caminho de código, o que interrompe temporariamente a execução a fim de investigar o estado do sistema. O principal benefício da depuração é que é possível investigar o comportamento do código antes de um ponto de falha conhecido. Depuração é um componente essencial na caixa de ferramentas para analisar erros de programação. No entanto, eles são mais amplamente utilizados em linguagens compiladas como C ou Java, como linguagens interpretadas como Python são muitas vezes mais fáceis de depurar devido a menos LOC e menos verbose declarações. Apesar desta tendência Python faz navio com o pdb. Que é uma ferramenta de depuração sofisticada. O Microsoft Visual C IDE possui extensa GUI depuração utilitários, enquanto para a linha de comando Linux C programador, o depurador gdb existe. Testes em desenvolvimento de software refere-se ao processo de aplicação de parâmetros e resultados conhecidos a funções, métodos e objetos específicos dentro de uma base de código, para simular o comportamento e avaliar vários códigos-caminhos, ajudando a garantir que um sistema se comporte como deveria. Um paradigma mais recente é conhecido como Test Driven Development (TDD), onde o código de teste é desenvolvido contra uma interface especificada sem implementação. Antes da conclusão da base de código real, todos os testes falharão. Como o código é escrito para preencher os espaços em branco, os testes eventualmente todos passam, momento em que o desenvolvimento deve cessar. O TDD exige um extenso projeto de especificações iniciais, bem como um grau saudável de disciplina, a fim de realizar com êxito. Em C, Boost fornece uma estrutura de teste de unidade. Em Java, a biblioteca JUnit existe para cumprir a mesma finalidade. O Python também tem o módulo unittest como parte da biblioteca padrão. Muitas outras línguas possuem quadros de teste de unidade e muitas vezes há várias opções. Em um ambiente de produção, a exploração madeireira sofisticada é absolutamente essencial. Logging refere-se ao processo de saída de mensagens, com vários graus de severidade, no que diz respeito ao comportamento de execução de um sistema para um arquivo simples ou banco de dados. Os logs são uma primeira linha de ataque ao caçar comportamento inesperado do tempo de execução do programa. Infelizmente, as deficiências de um sistema de registro tendem apenas a ser descoberto após o fato. Como com os backups discutidos abaixo, um sistema de registro deve ser dada a devida consideração antes de um sistema é projetado. Tanto o Microsoft Windows quanto o Linux vêm com uma extensa capacidade de log de sistema e as linguagens de programação tendem a ser fornecidas com bibliotecas de registro padrão que cobrem a maioria dos casos de uso. Muitas vezes, é aconselhável centralizar as informações de registro para analisá-las em uma data posterior, uma vez que muitas vezes pode levar a idéias sobre como melhorar o desempenho ou redução de erros, que quase certamente terá um impacto positivo em seus retornos de negociação. Enquanto o registro de um sistema fornecerá informações sobre o que aconteceu no passado, o monitoramento de uma aplicação fornecerá uma visão sobre o que está acontecendo agora. Todos os aspectos do sistema devem ser considerados para monitoramento. Métricas de nível de sistema, como uso de disco, memória disponível, largura de banda de rede e uso de CPU fornecem informações de carga básica. Métricas de negociação, tais como volume de preços anormal, levantamentos rápidos repentinos e exposição da conta para diferentes setores também devem ser monitorados continuamente. Além disso, um sistema de limiar deve ser instigado que fornece notificação quando determinadas métricas são violadas, elevando o método de notificação (e-mail, SMS, chamada telefônica automatizada), dependendo da gravidade da métrica. O monitoramento do sistema geralmente é o domínio do administrador do sistema ou do gerenciador de operações. No entanto, como um único desenvolvedor de negociação, essas métricas devem ser estabelecidas como parte do projeto maior. Existem muitas soluções para monitoramento: proprietárias, hospedadas e de código aberto, que permitem a personalização extensiva de métricas para um caso de uso específico. Backups e alta disponibilidade devem ser as principais preocupações de um sistema comercial. Consider the following two questions: 1) If an entire production database of market data and trading history was deleted (without backups) how would the research and execution algorithm be affected 2) If the trading system suffers an outage for an extended period (with open positions) how would account equity and ongoing profitability be affected The answers to both of these questions are often sobering It is imperative to put in place a system for backing up data and also for testing the restoration of such data. Many individuals do not test a restore strategy. If recovery from a crash has not been tested in a safe environment, what guarantees exist that restoration will be available at the worst possible moment Similarly, high availability needs to be baked in from the start. Redundant infrastructure (even at additional expense) must always be considered, as the cost of downtime is likely to far outweigh the ongoing maintenance cost of such systems. I wont delve too deeply into this topic as it is a large area, but make sure it is one of the first considerations given to your trading system. Choosing a Language Considerable detail has now been provided on the various factors that arise when developing a custom high-performance algorithmic trading system. The next stage is to discuss how programming languages are generally categorised. Type Systems When choosing a language for a trading stack it is necessary to consider the type system . The languages which are of interest for algorithmic trading are either statically - or dynamically-typed . A statically-typed language performs checks of the types (e. g. integers, floats, custom classes etc) during the compilation process. Such languages include C and Java. A dynamically-typed language performs the majority of its type-checking at runtime. Such languages include Python, Perl and JavaScript. For a highly numerical system such as an algorithmic trading engine, type-checking at compile time can be extremely beneficial, as it can eliminate many bugs that would otherwise lead to numerical errors. However, type-checking doesnt catch everything, and this is where exception handling comes in due to the necessity of having to handle unexpected operations. Dynamic languages (i. e. those that are dynamically-typed) can often lead to run-time errors that would otherwise be caught with a compilation-time type-check. For this reason, the concept of TDD (see above) and unit testing arose which, when carried out correctly, often provides more safety than compile-time checking alone. Another benefit of statically-typed languages is that the compiler is able to make many optimisations that are otherwise unavailable to the dynamically - typed language, simply because the type (and thus memory requirements) are known at compile-time. In fact, part of the inefficiency of many dynamically-typed languages stems from the fact that certain objects must be type-inspected at run-time and this carries a performance hit. Libraries for dynamic languages, such as NumPySciPy alleviate this issue due to enforcing a type within arrays. Open Source or Proprietary One of the biggest choices available to an algorithmic trading developer is whether to use proprietary (commercial) or open source technologies. There are advantages and disadvantages to both approaches. It is necessary to consider how well a language is supported, the activity of the community surrounding a language, ease of installation and maintenance, quality of the documentation and any licensingmaintenance costs. The Microsoft stack (including Visual C, Visual C) and MathWorks MatLab are two of the larger proprietary choices for developing custom algorithmic trading software. Both tools have had significant battle testing in the financial space, with the former making up the predominant software stack for investment banking trading infrastructure and the latter being heavily used for quantitative trading research within investment funds. Microsoft and MathWorks both provide extensive high quality documentation for their products. Further, the communities surrounding each tool are very large with active web forums for both. The software allows cohesive integration with multiple languages such as C, C and VB, as well as easy linkage to other Microsoft products such as the SQL Server database via LINQ. MatLab also has many pluginslibraries (some free, some commercial) for nearly any quantitative research domain. There are also drawbacks. With either piece of software the costs are not insignificant for a lone trader (although Microsoft does provide entry-level version of Visual Studio for free). Microsoft tools play well with each other, but integrate less well with external code. Visual Studio must also be executed on Microsoft Windows, which is arguably far less performant than an equivalent Linux server which is optimally tuned. MatLab also lacks a few key plugins such as a good wrapper around the Interactive Brokers API, one of the few brokers amenable to high-performance algorithmic trading. The main issue with proprietary products is the lack of availability of the source code. This means that if ultra performance is truly required, both of these tools will be far less attractive. Open source tools have been industry grade for sometime. Much of the alternative asset space makes extensive use of open-source Linux, MySQLPostgreSQL, Python, R, C and Java in high-performance production roles. However, they are far from restricted to this domain. Python and R, in particular, contain a wealth of extensive numerical libraries for performing nearly any type of data analysis imaginable, often at execution speeds comparable to compiled languages, with certain caveats. The main benefit of using interpreted languages is the speed of development time. Python and R require far fewer lines of code (LOC) to achieve similar functionality, principally due to the extensive libraries. Further, they often allow interactive console based development, rapidly reducing the iterative development process. Given that time as a developer is extremely valuable, and execution speed often less so (unless in the HFT space), it is worth giving extensive consideration to an open source technology stack. Python and R possess significant development communities and are extremely well supported, due to their popularity. Documentation is excellent and bugs (at least for core libraries) remain scarce. Open source tools often suffer from a lack of a dedicated commercial support contract and run optimally on systems with less-forgiving user interfaces. A typical Linux server (such as Ubuntu) will often be fully command-line oriented. In addition, Python and R can be slow for certain execution tasks. There are mechanisms for integrating with C in order to improve execution speeds, but it requires some experience in multi-language programming. While proprietary software is not immune from dependencyversioning issues it is far less common to have to deal with incorrect library versions in such environments. Open source operating systems such as Linux can be trickier to administer. I will venture my personal opinion here and state that I build all of my trading tools with open source technologies. In particular I use: Ubuntu, MySQL, Python, C and R. The maturity, community size, ability to dig deep if problems occur and lower total cost ownership (TCO) far outweigh the simplicity of proprietary GUIs and easier installations. Having said that, Microsoft Visual Studio (especially for C) is a fantastic Integrated Development Environment (IDE) which I would also highly recommend. Batteries Included The header of this section refers to the out of the box capabilities of the language - what libraries does it contain and how good are they This is where mature languages have an advantage over newer variants. C, Java and Python all now possess extensive libraries for network programming, HTTP, operating system interaction, GUIs, regular expressions (regex), iteration and basic algorithms. C is famed for its Standard Template Library (STL) which contains a wealth of high performance data structures and algorithms for free. Python is known for being able to communicate with nearly any other type of systemprotocol (especially the web), mostly through its own standard library. R has a wealth of statistical and econometric tools built in, while MatLab is extremely optimised for any numerical linear algebra code (which can be found in portfolio optimisation and derivatives pricing, for instance). Outside of the standard libraries, C makes use of the Boost library, which fills in the missing parts of the standard library. In fact, many parts of Boost made it into the TR1 standard and subsequently are available in the C11 spec, including native support for lambda expressions and concurrency. Python has the high performance NumPySciPyPandas data analysis library combination, which has gained widespread acceptance for algorithmic trading research. Further, high-performance plugins exist for access to the main relational databases, such as MySQL (MySQLC), JDBC (JavaMatLab), MySQLdb (MySQLPython) and psychopg2 (PostgreSQLPython). Python can even communicate with R via the RPy plugin An often overlooked aspect of a trading system while in the initial research and design stage is the connectivity to a broker API. Most APIs natively support C and Java, but some also support C and Python, either directly or with community-provided wrapper code to the C APIs. In particular, Interactive Brokers can be connected to via the IBPy plugin. If high-performance is required, brokerages will support the FIX protocol . Conclusion As is now evident, the choice of programming language(s) for an algorithmic trading system is not straightforward and requires deep thought. The main considerations are performance, ease of development, resiliency and testing, separation of concerns, familiarity, maintenance, source code availability, licensing costs and maturity of libraries. The benefit of a separated architecture is that it allows languages to be plugged in for different aspects of a trading stack, as and when requirements change. A trading system is an evolving tool and it is likely that any language choices will evolve along with it. Apenas começando com o comércio quantitativo
No comments:
Post a Comment