Esta documentação é de uma versão antiga do Python que não é mais atualizada. Você deveria atualizar e ler a documentação do Python para versão estável atual.

# `token` — Constantes usadas com árvores de análises do Python

Código Fonte: Lib/token.py

Este módulo fornece constantes que representam os valores numéricos dos nós das folhas da árvore de análise (tokens terminais). Consulte o arquivo `Grammar/Grammar` na distribuição Python para obter as definições dos nomes no contexto da gramática da linguagem. Os valores numéricos específicos para os quais os nomes são mapeados podem mudar entre as versões do Python.

O módulo também fornece um mapeamento de códigos numéricos para nomes e algumas funções. As funções espelham definições nos arquivos de cabeçalho do Python C.

`token.``tok_name`

  Dicionário que mapeia os valores numéricos das constantes definidas neste módulo de volta para cadeias de nomes, permitindo que seja gerada uma representação mais legível de árvores de análise.

`token.``ISTERMINAL`(x)

  Retorna `True` para valores de tokens terminais.

`token.``ISNONTERMINAL`(x)

  Retorna `True` para valores de tokens não terminais.

`token.``ISEOF`(x)

  Retorna `True` se x for o marcador que indica o final da entrada.

Os constantes de tokens são:

`token.``ENDMARKER`
`token.``NAME`
`token.``NUMBER`
`token.``STRING`
`token.``NEWLINE`
`token.``INDENT`
`token.``DEDENT`
`token.``LPAR`
`token.``RPAR`
`token.``LSQB`
`token.``RSQB`
`token.``COLON`
`token.``COMMA`
`token.``SEMI`
`token.``PLUS`
`token.``MINUS`
`token.``STAR`
`token.``SLASH`
`token.``VBAR`
`token.``AMPER`
`token.``LESS`
`token.``GREATER`
`token.``EQUAL`
`token.``DOT`
`token.``PERCENT`
`token.``LBRACE`
`token.``RBRACE`
`token.``EQEQUAL`
`token.``NOTEQUAL`
`token.``LESSEQUAL`
`token.``GREATEREQUAL`
`token.``TILDE`
`token.``CIRCUMFLEX`
`token.``LEFTSHIFT`
`token.``RIGHTSHIFT`
`token.``DOUBLESTAR`
`token.``PLUSEQUAL`
`token.``MINEQUAL`
`token.``STAREQUAL`
`token.``SLASHEQUAL`
`token.``PERCENTEQUAL`
`token.``AMPEREQUAL`
`token.``VBAREQUAL`
`token.``CIRCUMFLEXEQUAL`
`token.``LEFTSHIFTEQUAL`
`token.``RIGHTSHIFTEQUAL`
`token.``DOUBLESTAREQUAL`
`token.``DOUBLESLASH`
`token.``DOUBLESLASHEQUAL`
`token.``AT`
`token.``ATEQUAL`
`token.``RARROW`
`token.``ELLIPSIS`
`token.``OP`
`token.``ERRORTOKEN`
`token.``N_TOKENS`
`token.``NT_OFFSET`

Os seguintes valores de tipo de token não são usados pelo tokenizador do C, mas são necessários para o módulo `tokenize`.

`token.``COMMENT`

  Valor de token usado para indicar um comentário.

`token.``NL`

  Valor de token usado para indicar uma nova linha que não termina. O token `NEWLINE` indica o fim de uma linha lógica do código Python. Os tokens `NL` são gerados quando uma linha lógica de código é continuada em várias linhas físicas.

`token.``ENCODING`

  Valor de token que indica a codificação usada para decodificar os bytes de origem em texto. O primeiro token retornado por `tokenize.tokenize()` sempre será um token `ENCODING`.

Alterado na versão 3.5: Adicionados os tokens `AWAIT` e `ASYNC`.

Alterado na versão 3.7: Adicionados os tokens `COMMENT`, `NL` e `ENCODING`.

Alterado na versão 3.7: Removido os tokens `AWAIT` e `ASYNC`. “async” e “await” são agora tokenizados como tokens `NAME`.