Para entrar no Octave, digite o comando "octave" num terminal. 
Como você pode perceber, o Octave não possui uma interface gráfica 
(veja figura 1). Aliás, o uso de uma interface gráfica não é 
necessária para o propósito geral do programa. Para sair, basta digitar 
"quit" ou "exit".

Figura 1 - Clique para ampliar
 
As familiaridades com o 
Matlab são inúmeras. Podemos citar:
-  O sistema de ajuda (help nome_função);
-  As funções mais comuns (plot(), sin(), inv(), abs());
-  A definição de variáveis (a=[1,2;3,4]  x=0:2:100);
-  Complementação de comandos usando a tecla tab;
-  Histórico dos comandos (tecla seta p/ cima);
-  Os comandos who, clear, load, save, entre outros;
-  Definição de função (function f=funcao(x) .... );
-  Comentário com o caracter % (também pode ser usado o caracter #);
-  O Octave também é case-sensitive;
-  Estrutura de programação (if, for, while, disp(), input(), fprintf()).
O usuário que está acostumado com o Matlab não se sentirá um 
completo estrangeiro. Mas quais são as particularidades do Octave? 
A principal talvez seja a ausência de um módulo semelhante ao 
Simulink e de algumas funções específicas. Eu, por exemplo, 
notei a falta da função 
rad2deg, que converte ângulos em 
radianos para graus. Mais isso não impede que eu crie uma função 
semelhante. As funções ou scripts podem ser escritos no editor de sua 
preferência e salvo com a extensão ".m". O exemplo abaixo mostra uma 
função do tipo rad2deg.
function f=rad2deg(rad)
#Converte ângulo em radianos para graus
deg=(180*rad)/pi;
f=deg;
Enquanto no Matlab as funções criadas pelo usuário ficam armazenadas 
no diretório matlab/works, no Octave as funções e scripts escritos 
pelo usuário devem ser salvas no diretório padrão do usuário 
(/home/usuário).
Quando um gráfico é plotado, o Octave cria uma nova janela (veja figura 
2). Para fazer qualquer alteração no gráfico, você deve usar o comando 
gset para mudar algum parâmetro. Por exemplo, o comando 
"gset grid" habilita grades no último gráfico plotado e 
"gset title 'Título do Gráfico'" imprime um título na figura.

Figura 2 - Clique para ampliar