Scratch 1.4のベースとなっているSqueak SmalltalkはSmalltalk/80実装の一つです。Scratchを改造するには、Smalltalk/80の基本的な文法やクラスに加えて、Morphicと呼ばれるGUIについても学ぶ必要があります。
ネット上の日本語での情報は多くありませんが、よくまとまっている書籍があります。一つは「自由自在Squeakプログラミング」(アマゾン)です。まさにSqueak Smalltalkを学ぶために書かれた良書です。こちらは著者と出版社の好意によりPDFが公開されています。
自由自在SqueakプログラミングPDF版
もう一つは「Pharo By Example」(アマゾン)です。PharoはSqueak Smalltalkから派生したもので、活発に開発が続けられているSmalltalk/80の最新の実装の一つです。この書籍は有志により日本語への翻訳が行われ、github上でソースとともにPDFが公開されています。
https://github.com/SquareBracketAssociates/PharoByExample-japanese
Pharoに関してはドットインストールでも、Smalltalk入門としてレッスンが公開されています。基本的な文法についてはこのサイトからも十分学ぶことができます。
都内では1ヶ月に1回「Smalltalk勉強会」が開催されています。定期的に初心者向けの講座やハッカソンが実施されています。さまざまなSmalltalk処理系を用いたソフトウェア開発を行っているプロやアマチュアが多く集まり、疑問などに丁寧に答えてくれますので、ぜひ参加してみてください。